kv-cache

6 projetos partilham este topic do GitHub

Linhas conectam membros que estão mensuravelmente relacionados entre si. O tamanho do ponto reflete estrelas.

🧬 Membros

LMCache: Supercharge Your LLM with the Fastest KV Cache Layer

KVCache-Factory

Unified KV Cache Compression Methods for Auto-Regressive Models

LLM KV cache compression made easy

[NeurIPS'23] H2O: Heavy-Hitter Oracle for Efficient Generative Inference of Large Language Models.

Run larger LLMs with longer contexts on Apple Silicon by using differentiated precision for KV cache…

awesome-llm-token-optimization

A curated list of strategies, tools, papers, and resources for reducing LLM token costs and improving…

🔗 Familias relacionadas

inference 74 amd 12 cuda 78 fast 5 rocm 6 vllm 35 long-context 8 gpt-3 67

Medido a partir dos tópicos do GitHub compartilhados por ambos os projetos, ponderado pela raridade de cada tópico.