Início Projetos PowerInfer
PowerInfer
C++

PowerInfer

Serviço de Modelo de Linguagem Grande de alta velocidade para Implantação Local

por Tiiny-AI · GitHub
Estrelas
Forks
Tendências
Licença
Criado
Último commit
Linguagem
Provável
Auto-hospedável
large-language-modelsllamallmMITC++Auto-hospedável
Ver no GitHub
Em palavras simples

Execute grandes modelos de linguagem em seu próprio dispositivo para geração rápida de texto.

Mantem este projeto?

Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.

Reivindicar esta pagina →
PowerInfer — GitHub preview card
📈 Histórico de estrelas
9.8k9.6k
2026-07-042026-08-31
📈 Acompanhe PowerInfer

Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.

Grátis · sem cartão · cancele quando quiser
Receber alertas por e-mail →
📄 Sobre

Serviço de Modelo de Linguagem Grande de alta velocidade para Implantação Local

PowerInfer tem 9.8k estrelas no GitHub. Foi bifurcado 597 vezes. PowerInfer é escrito principalmente em C++. Está em desenvolvimento ativo desde 2023. PowerInfer está disponível sob a licença MIT. Os seus principais temas são: large-language-models, llama, llm, llm-inference.

Frequently asked questions

O que é PowerInfer?

Serviço de Modelo de Linguagem Grande de alta velocidade para Implantação Local

PowerInfer é de código aberto?

PowerInfer é um projeto de código aberto. É distribuído sob a licença MIT.

PowerInfer é gratuito?

Sim. PowerInfer é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.

Sob que licença está PowerInfer?

PowerInfer está disponível sob a licença MIT.

Em que linguagem PowerInfer está escrito?

PowerInfer é escrito principalmente em C++.

🏅 Mantenedor deste projeto?
olud.ai badge — PowerInfer

Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.

[![olud.ai](https://olud.ai/badge.php?tool=tiiny-ai-powerinfer)](https://olud.ai/project/tiiny-ai-powerinfer.html)
Mais opções de badge →
🧬 Partilha ADN com🧬 Ver o mapa de ADN →

Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.