TinyChatEngine: Biblioteca de Inferência LLM em Dispositivo
Execute grandes modelos de linguagem em seu dispositivo para respostas instantâneas, mantendo seus dados privados.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserTinyChatEngine: Biblioteca de Inferência LLM em Dispositivo
TinyChatEngine tem 958 estrelas no GitHub. Foi bifurcado 101 vezes. TinyChatEngine é escrito principalmente em C++. Está em desenvolvimento ativo desde 2023. TinyChatEngine está disponível sob a licença MIT. Os seus principais temas são: arm, c, cpp, cuda-programming.
TinyChatEngine: Biblioteca de Inferência LLM em Dispositivo
TinyChatEngine é um projeto de código aberto. É distribuído sob a licença MIT.
Sim. TinyChatEngine é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
TinyChatEngine está disponível sob a licença MIT.
TinyChatEngine é escrito principalmente em C++.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/mit-han-lab-tinychatengine.html)