KIVI
[ICML 2024] KIVI: Una Cuantización Asimétrica de 2 bits sin Ajuste para KV Cache
Prueba y mejora el rendimiento de modelos de lenguaje grande con un enfoque en la precisión numérica.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quieras[ICML 2024] KIVI: Una Cuantización Asimétrica de 2 bits sin Ajuste para KV Cache
KIVI tiene 431 estrellas en GitHub. Se ha bifurcado 59 veces. KIVI está escrito principalmente en Python. Se desarrolla activamente desde 2024. KIVI está disponible bajo la licencia MIT. Sus temas principales son: inference, large-language-models, llama, llm.
¿Qué es KIVI?
[ICML 2024] KIVI: Una Cuantización Asimétrica de 2 bits sin Ajuste para KV Cache
¿KIVI es de código abierto?
KIVI es un proyecto de código abierto. Se distribuye bajo la licencia MIT.
¿KIVI es gratis?
Sí. KIVI es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está KIVI?
KIVI está disponible bajo la licencia MIT.
¿En qué lenguaje está escrito KIVI?
KIVI está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/jy-yuan-kivi.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.