Un moteur d'accélération d'inférence LLM hautement optimisé pour Llama et ses variantes.
Accélérez les performances des modèles Llama AI sur des cartes graphiques compatibles pour des résultats plus rapides.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentUn moteur d'accélération d'inférence LLM hautement optimisé pour Llama et ses variantes.
ZhiLight compte 907 étoiles sur GitHub. Il a été forké 103 fois. ZhiLight est écrit principalement en C++. Il est développé activement depuis 2024. ZhiLight est disponible sous licence Apache-2.0. Ses principaux thèmes sont : cuda, deepseek-r1, gpt, inference-engine.
Un moteur d'accélération d'inférence LLM hautement optimisé pour Llama et ses variantes.
ZhiLight est un projet open source. Il est distribué sous licence Apache-2.0.
Oui. ZhiLight est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
ZhiLight est disponible sous licence Apache-2.0.
ZhiLight est écrit principalement en C++.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/zhihu-zhilight.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.