Home› Progetti› KVCache-Factory
KVCache-Factory

KVCache-Factory

di Zefan-Cai · GitHub

Metodi di compressione KV Cache unificati per modelli auto-regressivi.

# kv-cache# kv-cache-compression# llm
Visualizza su GitHub
In parole semplici

Esplora diversi metodi per comprimere e gestire i dati per modelli AI in un'unica interfaccia.

⭐ Stelle
1.4k
🍴 Fork
178
🔥 Tendenze
+1 questa settimana
📜 Licenza
MIT
Uso commerciale consentito
📅 Creato
2024
🔄 Ultimo commit
18 days ago
🏷️ Categoria
kv-cache
💻 Lingua
Python
Mantieni questo progetto?

Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.

Rivendica questa pagina →
KVCache-Factory — GitHub preview card
📈 Storia delle stelle
1.36k1.35k
2026-07-202026-07-29
📈 Segui KVCache-Factory

Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.

Gratis · senza carta · disdici quando vuoi
Ricevi avvisi via email →
📄 Informazioni

Metodi di compressione KV Cache unificati per modelli auto-regressivi.

KVCache-Factory ha 1.4k stelle su GitHub. È stato forkato 178 volte. KVCache-Factory è scritto principalmente in Python. È in sviluppo attivo dal 2024. KVCache-Factory è disponibile con licenza MIT. I suoi temi principali sono: kv-cache, kv-cache-compression, llm.

❓ Frequently asked questions

Che cos'è KVCache-Factory?

Metodi di compressione KV Cache unificati per modelli auto-regressivi.

KVCache-Factory è open source?

KVCache-Factory è un progetto open source. È rilasciato con licenza MIT.

KVCache-Factory è gratuito?

Sì. KVCache-Factory è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

Con quale licenza è KVCache-Factory?

KVCache-Factory è disponibile con licenza MIT.

In quale linguaggio è scritto KVCache-Factory?

KVCache-Factory è scritto principalmente in Python.

🏅 Manutentore di questo progetto?
olud.ai badge — KVCache-Factory

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![olud.ai](https://olud.ai/badge.php?tool=zefan-cai-kvcache-factory)](https://olud.ai/project/zefan-cai-kvcache-factory.html)
Altre opzioni di badge →
🧬 Condivide il DNA con🧬 Vedi la mappa del DNA →
kvpress
Compressione della cache KV per LLM resa semplice
★ 1.1k · inference
condividekv-cache-compressionkv-cache
LMCache
LMCache: Potenzia il tuo LLM con il layer KV cache più veloce
★ 10.9k · amd
Deepdive-llama3-from-scratch
Raggiungi il passo di inferenza llama3 passo dopo passo, afferra i concetti fondamentali, padro…
★ 632 · attention
H2O
[NeurIPS'23] H2O: Heavy-Hitter Oracle per un'inferenza generativa efficiente di modelli di ling…
★ 530 · gpt-3
KVSplit
Esegui LLM più grandi con contesti più lunghi su Apple Silicon utilizzando precisione differenz…
★ 361 · apple-silicon
ECC
Il sistema di ottimizzazione delle prestazioni dell'agente. Competenze, istinti, memoria, sicur…
★ 235k · ai-agents
hermes-agent
L'agente che cresce con te
★ 222k · ai
AutoGPT
AutoGPT è la visione di un AI accessibile per tutti, da usare e su cui costruire. La nostra mis…
★ 186k · agentic-ai
ollama
Inizia a utilizzare Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma e altri modelli…
★ 177k · deepseek
prompts.chat
f.k.a. Awesome ChatGPT Prompts. Condividi, scopri e raccogli prompt dalla comunità. Gratuito e…
★ 166k · ai

Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.