ZhiLight
Um motor de aceleração de inferência LLM altamente otimizado para Llama e suas variantes.
Acelere o desempenho dos modelos Llama AI em placas gráficas compatíveis para resultados mais rápidos.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserUm motor de aceleração de inferência LLM altamente otimizado para Llama e suas variantes.
ZhiLight tem 907 estrelas no GitHub. Foi bifurcado 103 vezes. ZhiLight é escrito principalmente em C++. Está em desenvolvimento ativo desde 2024. ZhiLight está disponível sob a licença Apache-2.0. Os seus principais temas são: cuda, deepseek-r1, gpt, inference-engine.
O que é ZhiLight?
Um motor de aceleração de inferência LLM altamente otimizado para Llama e suas variantes.
ZhiLight é de código aberto?
ZhiLight é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
ZhiLight é gratuito?
Sim. ZhiLight é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está ZhiLight?
ZhiLight está disponível sob a licença Apache-2.0.
Em que linguagem ZhiLight está escrito?
ZhiLight é escrito principalmente em C++.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/zhihu-zhilight.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.