OmniQuant
[ICLR2024 spotlight] OmniQuant es una técnica de cuantización simple y poderosa para LLMs.
Ejecuta una técnica para reducir el tamaño de modelos de lenguaje grandes para un mejor rendimiento en tu propio hardware.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quieras[ICLR2024 spotlight] OmniQuant es una técnica de cuantización simple y poderosa para LLMs.
OmniQuant tiene 904 estrellas en GitHub. Se ha bifurcado 84 veces. OmniQuant está escrito principalmente en Python. Se desarrolla activamente desde 2023. OmniQuant está disponible bajo la licencia MIT. Sus temas principales son: large-language-models, llm, quantization.
¿Qué es OmniQuant?
[ICLR2024 spotlight] OmniQuant es una técnica de cuantización simple y poderosa para LLMs.
¿OmniQuant es de código abierto?
OmniQuant es un proyecto de código abierto. Se distribuye bajo la licencia MIT.
¿OmniQuant es gratis?
Sí. OmniQuant es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está OmniQuant?
OmniQuant está disponible bajo la licencia MIT.
¿En qué lenguaje está escrito OmniQuant?
OmniQuant está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://opensourceai.tech/project/opengvlab-omniquant.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.