Acelera el rendimiento de los modelos de lenguaje grande con un sistema de caché especializado.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasLMCache: Potencia tu LLM con la Capa de Cache KV más Rápida
LMCache tiene 11.6k estrellas en GitHub. Se ha bifurcado 1.8k veces. LMCache está escrito principalmente en Python. Se desarrolla activamente desde 2024. LMCache está disponible bajo la licencia Apache-2.0. Sus temas principales son: amd, cuda, fast, inference.
¿Qué es LMCache?
LMCache: Potencia tu LLM con la Capa de Cache KV más Rápida
¿LMCache es de código abierto?
LMCache es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿LMCache es gratis?
Sí. LMCache es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está LMCache?
LMCache está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito LMCache?
LMCache está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/lmcache-lmcache.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.