KIVI
[ICML 2024] KIVI : Une quantification asymétrique 2 bits sans réglage pour le cache KV
Testez et améliorez la performance des grands modèles de langage en mettant l'accent sur la précision numérique.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout moment[ICML 2024] KIVI : Une quantification asymétrique 2 bits sans réglage pour le cache KV
KIVI compte 431 étoiles sur GitHub. Il a été forké 59 fois. KIVI est écrit principalement en Python. Il est développé activement depuis 2024. KIVI est disponible sous licence MIT. Ses principaux thèmes sont : inference, large-language-models, llama, llm.
Qu'est-ce que KIVI ?
[ICML 2024] KIVI : Une quantification asymétrique 2 bits sans réglage pour le cache KV
KIVI est-il open source ?
KIVI est un projet open source. Il est distribué sous licence MIT.
KIVI est-il gratuit ?
Oui. KIVI est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est KIVI ?
KIVI est disponible sous licence MIT.
Dans quel langage KIVI est-il écrit ?
KIVI est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/jy-yuan-kivi.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.