Compression de cache KV LLM simplifiée
Compressez l'utilisation de la mémoire pour de grands modèles IA afin de les rendre plus faciles à exécuter.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentCompression de cache KV LLM simplifiée
kvpress compte 1.1k étoiles sur GitHub. Il a été forké 164 fois. kvpress est écrit principalement en Python. Il est développé activement depuis 2024. kvpress est disponible sous licence Apache-2.0. Ses principaux thèmes sont : inference, kv-cache, kv-cache-compression, large-language-models.
Compression de cache KV LLM simplifiée
kvpress est un projet open source. Il est distribué sous licence Apache-2.0.
Oui. kvpress est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
kvpress est disponible sous licence Apache-2.0.
kvpress est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://opensourceai.tech/project/nvidia-kvpress.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.