LMCache
LMCache : Accélérez votre LLM avec la couche de cache KV la plus rapide
Accélérez les performances des grands modèles de langage avec un système de mise en cache spécialisé.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentLMCache : Accélérez votre LLM avec la couche de cache KV la plus rapide
LMCache compte 10.9k étoiles sur GitHub. Il a été forké 1.6k fois. LMCache est écrit principalement en Python. Il est développé activement depuis 2024. LMCache est disponible sous licence Apache-2.0. Ses principaux thèmes sont : amd, cuda, fast, inference.
Qu'est-ce que LMCache ?
LMCache : Accélérez votre LLM avec la couche de cache KV la plus rapide
LMCache est-il open source ?
LMCache est un projet open source. Il est distribué sous licence Apache-2.0.
LMCache est-il gratuit ?
Oui. LMCache est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est LMCache ?
LMCache est disponible sous licence Apache-2.0.
Dans quel langage LMCache est-il écrit ?
LMCache est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/lmcache-lmcache.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.