Início Projetos xllm
xllm
C++

xllm

Um motor de inferência de alto desempenho para LLM, VLM, DiT e modelos REC, otimizado para diversos aceleradores de IA. Está hospedado na OpenAtom Foundation.

por xLLM-AI · GitHub
Estrelas
Forks
Tendências
Licença
Criado
Último commit
Categoria
Linguagem
deepseekglminferenceApache-2.0C++
Ver no GitHub
Em palavras simples

Execute modelos de IA de forma eficiente em vários hardwares, otimizando o desempenho para diferentes tarefas.

Mantem este projeto?

Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.

Reivindicar esta pagina →
xllm — GitHub preview card
📈 Histórico de estrelas
2k1k
2026-07-202026-08-31
📈 Acompanhe xllm

Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.

Grátis · sem cartão · cancele quando quiser
Receber alertas por e-mail →
📄 Sobre

Um motor de inferência de alto desempenho para LLM, VLM, DiT e modelos REC, otimizado para diversos aceleradores de IA. Está hospedado na OpenAtom Foundation.

xllm tem 1.5k estrelas no GitHub. Foi bifurcado 288 vezes. xllm é escrito principalmente em C++. Está em desenvolvimento ativo desde 2025. xllm está disponível sob a licença Apache-2.0. Os seus principais temas são: deepseek, glm, inference, inference-engine.

Frequently asked questions

O que é xllm?

Um motor de inferência de alto desempenho para LLM, VLM, DiT e modelos REC, otimizado para diversos aceleradores de IA. Está hospedado na OpenAtom Foundation.

xllm é de código aberto?

xllm é um projeto de código aberto. É distribuído sob a licença Apache-2.0.

xllm é gratuito?

Sim. xllm é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.

Sob que licença está xllm?

xllm está disponível sob a licença Apache-2.0.

Em que linguagem xllm está escrito?

xllm é escrito principalmente em C++.

🏅 Mantenedor deste projeto?
olud.ai badge — xllm

Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.

[![olud.ai](https://olud.ai/badge.php?tool=xllm-ai-xllm)](https://olud.ai/project/xllm-ai-xllm.html)
Mais opções de badge →
🧬 Partilha ADN com🧬 Ver o mapa de ADN →
swiftLLM
Um sistema de inferência LLM pequeno, mas poderoso, adaptado para fins de pesquisa. Desempenho…
329 · cuda
partilhainference-engineinference
QA-Pilot
QA-Pilot é um projeto de chat interativo que aproveita LLM online/local para compreensão rápida…
326 · deepseek
partilhaglmdeepseek
MoE-Infinity
Biblioteca PyTorch para atendimento econômico, rápido e fácil de modelos MoE.
352 · huggingface
partilhainference-enginellm-inference
TensorSharp
Um mecanismo de inferência LLM nativo .NET para modelos GGUF. TensorSharp fornece um aplicativo…
383 · ai
partilhainference-engineglm
sglang
SGLang é um framework de alta performance para servir grandes modelos de linguagem e modelos mu…
32.9k · attention
partilhaglminference
openclaw-guide
开源OpenClaw中文文档站,OpenClaw中文指南,支持小龙虾 AI 智能体安装部署、消息渠道接入、Agent 架构、Skills 技能配置、模型提供商、CLI 命令参考、网关运维、安…
186 · agents
partilhaglmqwen
EasyR1
EasyR1: Uma Estrutura de Treinamento RL Multi-Modality Eficiente e Escalável baseada em veRL
5.1k · ai
partilhaqwendeepseek
tinybot
Tinybot is a lightweight personal AI Agent that is constantly evolving
187 · agent
partilhaqwendeepseek
openinterpreter
Um agente de codificação para modelos abertos como Kimi K3
68.2k · acp
partilhaqwendeepseek
gpustack
Um gerenciador de cluster GPU para servir modelos de IA de alto desempenho (vLLM, SGLang) e ins…
5.6k · ascend
partilhallm-inferenceinference

Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.