ZhiLight
Un motor de aceleración de inferencia LLM altamente optimizado para Llama y sus variantes.
Acelera el rendimiento de los modelos de Llama AI en tarjetas gráficas compatibles para obtener resultados más rápidos.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasUn motor de aceleración de inferencia LLM altamente optimizado para Llama y sus variantes.
ZhiLight tiene 905 estrellas en GitHub. Se ha bifurcado 103 veces. ZhiLight está escrito principalmente en C++. Se desarrolla activamente desde 2024. ZhiLight está disponible bajo la licencia Apache-2.0. Sus temas principales son: cuda, deepseek-r1, gpt, inference-engine.
¿Qué es ZhiLight?
Un motor de aceleración de inferencia LLM altamente optimizado para Llama y sus variantes.
¿ZhiLight es de código abierto?
ZhiLight es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿ZhiLight es gratis?
Sí. ZhiLight es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está ZhiLight?
ZhiLight está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito ZhiLight?
ZhiLight está escrito principalmente en C++.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/zhihu-zhilight.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.