Startseite Projekte xllm
xllm
C++

xllm

Eine Hochleistungs-Inferenz-Engine für LLM, VLM, DiT und REC-Modelle, optimiert für verschiedene KI-Beschleuniger. Es wird in der OpenAtom-Stiftung gehostet.

von xLLM-AI · GitHub
Sterne
Forks
Erstellt
Letzter Commit
Kategorie
Sprache
deepseekglminferenceApache-2.0C++
Auf GitHub ansehen
In einfachen Worten

Führen Sie KI-Modelle effizient auf verschiedenen Hardwareplattformen aus und optimieren Sie die Leistung für unterschiedliche Aufgaben.

Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
xllm — GitHub preview card
📈 Sternhistorie
2k1k
2026-07-202026-08-31
📈 xllm verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

Eine Hochleistungs-Inferenz-Engine für LLM, VLM, DiT und REC-Modelle, optimiert für verschiedene KI-Beschleuniger. Es wird in der OpenAtom-Stiftung gehostet.

xllm hat 1.5k Sterne auf GitHub. Es wurde 288-mal geforkt. xllm ist hauptsächlich in C++ geschrieben. Es wird seit 2025 aktiv entwickelt. xllm ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: deepseek, glm, inference, inference-engine.

Frequently asked questions

Was ist xllm?

Eine Hochleistungs-Inferenz-Engine für LLM, VLM, DiT und REC-Modelle, optimiert für verschiedene KI-Beschleuniger. Es wird in der OpenAtom-Stiftung gehostet.

Ist xllm Open Source?

xllm ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.

Ist xllm kostenlos?

Ja. xllm ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht xllm?

xllm ist unter der Apache-2.0-Lizenz verfügbar.

In welcher Sprache ist xllm geschrieben?

xllm ist hauptsächlich in C++ geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — xllm

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=xllm-ai-xllm)](https://olud.ai/project/xllm-ai-xllm.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
swiftLLM
Ein kleines, aber leistungsstarkes LLM-Inferenzsystem, das für Forschungszwecke maßgeschneidert…
329 · cuda
teiltinference-engineinference
QA-Pilot
QA-Pilot ist ein interaktives Chatprojekt, das Online-/lokale LLM für schnelles Verständnis und…
326 · deepseek
teiltglmdeepseek
MoE-Infinity
PyTorch-Bibliothek für kosteneffektives, schnelles und einfaches Bereitstellen von MoE-Modellen…
352 · huggingface
teiltinference-enginellm-inference
TensorSharp
Eine native .NET LLM-Inferenz-Engine für GGUF-Modelle. TensorSharp bietet eine Konsolenanwendun…
383 · ai
teiltinference-engineglm
sglang
SGLang ist ein leistungsstarkes Serving-Framework für große Sprachmodelle und multimodale Model…
32.9k · attention
teiltglminference
openclaw-guide
开源OpenClaw中文文档站,OpenClaw中文指南,支持小龙虾 AI 智能体安装部署、消息渠道接入、Agent 架构、Skills 技能配置、模型提供商、CLI 命令参考、网关运维、安…
186 · agents
teiltglmqwen
EasyR1
EasyR1: Ein effizientes, skalierbares Multi-Modality RL-Trainingsframework basierend auf veRL
5.1k · ai
teiltqwendeepseek
tinybot
Tinybot is a lightweight personal AI Agent that is constantly evolving
187 · agent
teiltqwendeepseek
openinterpreter
Ein Codierungsagent für offene Modelle wie Kimi K3
68.2k · acp
teiltqwendeepseek
gpustack
Ein GPU-Cluster-Manager für das Hochleistungs-KI-Modell-Serving (vLLM, SGLang) und nach Bedarf…
5.6k · ascend
teiltllm-inferenceinference

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.