Eine Hochleistungs-Inferenz-Engine für LLM, VLM, DiT und REC-Modelle, optimiert für verschiedene KI-Beschleuniger. Es wird in der OpenAtom-Stiftung gehostet.
Führe KI-Modelle effizient auf verschiedenen Hardware-Plattformen aus und optimiere die Leistung für unterschiedliche Aufgaben.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarEine Hochleistungs-Inferenz-Engine für LLM, VLM, DiT und REC-Modelle, optimiert für verschiedene KI-Beschleuniger. Es wird in der OpenAtom-Stiftung gehostet.
xllm hat 1.5k Sterne auf GitHub. Es wurde 271-mal geforkt. xllm ist hauptsächlich in C++ geschrieben. Es wird seit 2025 aktiv entwickelt. xllm ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: deepseek, glm, inference, inference-engine.
Eine Hochleistungs-Inferenz-Engine für LLM, VLM, DiT und REC-Modelle, optimiert für verschiedene KI-Beschleuniger. Es wird in der OpenAtom-Stiftung gehostet.
xllm ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ja. xllm ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
xllm ist unter der Apache-2.0-Lizenz verfügbar.
xllm ist hauptsächlich in C++ geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/xllm-ai-xllm.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.