Execute modelos de linguagem diretamente no seu navegador sem precisar de um servidor.
Do README
npm install npm run build
- Llama: Llama 3, Llama 2, Hermes-2-Pro-Llama-3
- Phi: Phi 3, Phi 2, Phi 1.5
- Gemma: Gemma-2B
- Mistral: Mistral-7B-v0.3, Hermes-2-Pro-Mistral-7B, NeuralHermes-2.5-Mistral-7B, OpenHermes-2.5-Mistral-7B
- Qwen (通义千问): Qwen2 0.5B, 1.5B, 7B
Trechos do README do projeto em GitHub. Os direitos autorais e as licenças permanecem com os respectivos autores.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserMotor de Inferência LLM de alto desempenho no navegador
web-llm tem 18.6k estrelas no GitHub. Foi bifurcado 1.4k vezes. web-llm é escrito principalmente em TypeScript. Está em desenvolvimento ativo desde 2023. web-llm está disponível sob a licença Apache-2.0. Os seus principais temas são: chatgpt, deep-learning, language-model, llm.
O que é web-llm?
Motor de Inferência LLM de alto desempenho no navegador
web-llm é de código aberto?
web-llm é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
web-llm é gratuito?
Sim. web-llm é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está web-llm?
web-llm está disponível sob a licença Apache-2.0.
Em que linguagem web-llm está escrito?
web-llm é escrito principalmente em TypeScript.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/mlc-ai-web-llm.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.