KIVI
[ICML 2024] KIVI: Una quantizzazione asimmetrica a 2 bit senza tuning per KV Cache
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoi[ICML 2024] KIVI: Una quantizzazione asimmetrica a 2 bit senza tuning per KV Cache
KIVI ha 423 stelle su GitHub. È stato forkato 57 volte. KIVI è scritto principalmente in Python. È in sviluppo attivo dal 2024. KIVI è disponibile con licenza MIT. I suoi temi principali sono: inference, large-language-models, llama, llm.
Che cos'è KIVI?
[ICML 2024] KIVI: Una quantizzazione asimmetrica a 2 bit senza tuning per KV Cache
KIVI è open source?
KIVI è un progetto open source. È rilasciato con licenza MIT.
KIVI è gratuito?
Sì. KIVI è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è KIVI?
KIVI è disponibile con licenza MIT.
In quale linguaggio è scritto KIVI?
KIVI è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/jy-yuan-kivi.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.