ZhiLight
Un motore di accelerazione per inferenza LLM altamente ottimizzato per Llama e le sue varianti.
Accelera le prestazioni dei modelli AI Llama su schede grafiche compatibili per risultati più rapidi.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiUn motore di accelerazione per inferenza LLM altamente ottimizzato per Llama e le sue varianti.
ZhiLight ha 907 stelle su GitHub. È stato forkato 103 volte. ZhiLight è scritto principalmente in C++. È in sviluppo attivo dal 2024. ZhiLight è disponibile con licenza Apache-2.0. I suoi temi principali sono: cuda, deepseek-r1, gpt, inference-engine.
Che cos'è ZhiLight?
Un motore di accelerazione per inferenza LLM altamente ottimizzato per Llama e le sue varianti.
ZhiLight è open source?
ZhiLight è un progetto open source. È rilasciato con licenza Apache-2.0.
ZhiLight è gratuito?
Sì. ZhiLight è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è ZhiLight?
ZhiLight è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto ZhiLight?
ZhiLight è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/zhihu-zhilight.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.