Início Projetos PowerInfer
PowerInfer

PowerInfer

por Tiiny-AI · GitHub

Serviço de Modelo de Linguagem Grande de alta velocidade para Implantação Local

Ver no GitHub
Em palavras simples

Execute modelos de linguagem grandes no seu próprio dispositivo para geração rápida de texto.

⭐ Estrelas
🍴 Forks
🔥 Tendências
📜 Licença
Uso comercial permitido
📅 Criado
🔄 Último commit
🏷️ Categoria
💻 Linguagem
🖥️ Auto-hospedável
Provável
Mantem este projeto?

Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.

Reivindicar esta pagina →
PowerInfer — GitHub preview card
📈 Histórico de estrelas
9.7k9.6k
2026-07-042026-07-29
📈 Acompanhe PowerInfer

Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.

Grátis · sem cartão · cancele quando quiser
Receber alertas por e-mail →
📄 Sobre

Serviço de Modelo de Linguagem Grande de alta velocidade para Implantação Local

PowerInfer tem 9.7k estrelas no GitHub. Foi bifurcado 588 vezes. PowerInfer é escrito principalmente em C++. Está em desenvolvimento ativo desde 2023. PowerInfer está disponível sob a licença MIT. Os seus principais temas são: large-language-models, llama, llm, llm-inference.

Frequently asked questions

O que é PowerInfer?

Serviço de Modelo de Linguagem Grande de alta velocidade para Implantação Local

PowerInfer é de código aberto?

PowerInfer é um projeto de código aberto. É distribuído sob a licença MIT.

PowerInfer é gratuito?

Sim. PowerInfer é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.

Sob que licença está PowerInfer?

PowerInfer está disponível sob a licença MIT.

Em que linguagem PowerInfer está escrito?

PowerInfer é escrito principalmente em C++.

🏅 Mantenedor deste projeto?
olud.ai badge — PowerInfer

Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.

[![olud.ai](https://olud.ai/badge.php?tool=tiiny-ai-powerinfer)](https://olud.ai/project/tiiny-ai-powerinfer.html)
Mais opções de badge →
🧬 Partilha ADN com🧬 Ver o mapa de ADN →

Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.