kvpress
Compresión de caché KV de LLM hecha fácil
Comprime el uso de memoria para grandes modelos de IA para hacerlos más fáciles de ejecutar.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasCompresión de caché KV de LLM hecha fácil
kvpress tiene 1.1k estrellas en GitHub. Se ha bifurcado 164 veces. kvpress está escrito principalmente en Python. Se desarrolla activamente desde 2024. kvpress está disponible bajo la licencia Apache-2.0. Sus temas principales son: inference, kv-cache, kv-cache-compression, large-language-models.
¿Qué es kvpress?
Compresión de caché KV de LLM hecha fácil
¿kvpress es de código abierto?
kvpress es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿kvpress es gratis?
Sí. kvpress es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está kvpress?
kvpress está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito kvpress?
kvpress está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/nvidia-kvpress.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.