Home Progetti xllm
xllm
C++

xllm

Un motore di inferenza ad alte prestazioni per LLM, VLM, DiT e modelli REC, ottimizzato per diversi acceleratori AI. È ospitato nella OpenAtom Foundation.

di xLLM-AI · GitHub
Stelle
Fork
Licenza
Creato
Ultimo commit
Categoria
Lingua
deepseekglminferenceApache-2.0C++
Visualizza su GitHub
In parole semplici

Esegui modelli AI in modo efficiente su vari hardware, ottimizzando le prestazioni per diversi compiti.

Mantieni questo progetto?

Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.

Rivendica questa pagina →
xllm — GitHub preview card
📈 Storia delle stelle
2k1k
2026-07-202026-08-31
📈 Segui xllm

Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.

Gratis · senza carta · disdici quando vuoi
Ricevi avvisi via email →
📄 Informazioni

Un motore di inferenza ad alte prestazioni per LLM, VLM, DiT e modelli REC, ottimizzato per diversi acceleratori AI. È ospitato nella OpenAtom Foundation.

xllm ha 1.5k stelle su GitHub. È stato forkato 288 volte. xllm è scritto principalmente in C++. È in sviluppo attivo dal 2025. xllm è disponibile con licenza Apache-2.0. I suoi temi principali sono: deepseek, glm, inference, inference-engine.

Frequently asked questions

Che cos'è xllm?

Un motore di inferenza ad alte prestazioni per LLM, VLM, DiT e modelli REC, ottimizzato per diversi acceleratori AI. È ospitato nella OpenAtom Foundation.

xllm è open source?

xllm è un progetto open source. È rilasciato con licenza Apache-2.0.

xllm è gratuito?

Sì. xllm è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

Con quale licenza è xllm?

xllm è disponibile con licenza Apache-2.0.

In quale linguaggio è scritto xllm?

xllm è scritto principalmente in C++.

🏅 Manutentore di questo progetto?
olud.ai badge — xllm

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![olud.ai](https://olud.ai/badge.php?tool=xllm-ai-xllm)](https://olud.ai/project/xllm-ai-xllm.html)
Altre opzioni di badge →
🧬 Condivide il DNA con🧬 Vedi la mappa del DNA →
swiftLLM
Un sistema di inferenza LLM piccolo ma potente, progettato per scopi di ricerca. Prestazioni eq…
329 · cuda
condivideinference-engineinference
QA-Pilot
QA-Pilot è un progetto di chat interattiva che sfrutta LLM online/locali per una rapida compren…
326 · deepseek
condivideglmdeepseek
MoE-Infinity
Libreria PyTorch per il servizio economico, veloce e facile dei modelli MoE.
352 · huggingface
condivideinference-enginellm-inference
TensorSharp
Un motore di inferenza LLM nativo .NET per modelli GGUF. TensorSharp fornisce un'applicazione c…
383 · ai
condivideinference-engineglm
sglang
SGLang è un framework di serving ad alte prestazioni per modelli di linguaggio di grandi dimens…
32.9k · attention
condivideglminference
openclaw-guide
开源OpenClaw中文文档站,OpenClaw中文指南,支持小龙虾 AI 智能体安装部署、消息渠道接入、Agent 架构、Skills 技能配置、模型提供商、CLI 命令参考、网关运维、安…
186 · agents
condivideglmqwen
EasyR1
EasyR1: Un Framework di Addestramento RL Multi-Modale, Efficiente e Scalabile basato su veRL
5.1k · ai
condivideqwendeepseek
tinybot
Tinybot is a lightweight personal AI Agent that is constantly evolving
187 · agent
condivideqwendeepseek
openinterpreter
Un agente di codifica per modelli aperti come Kimi K3
68.2k · acp
condivideqwendeepseek
gpustack
Un gestore di cluster GPU per il servizio di modelli AI ad alte prestazioni (vLLM, SGLang) e is…
5.6k · ascend
condividellm-inferenceinference

Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.