llm-d
Erreichen Sie eine hochmoderne Inferenzleistung mit modernen Beschleunigern auf Kubernetes.
Führen Sie große Sprachmodelle effizient auf Kubernetes aus und erzielen Sie eine Spitzenleistung mit verschiedenen Hardwarebeschleunigern.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarErreichen Sie eine hochmoderne Inferenzleistung mit modernen Beschleunigern auf Kubernetes.
llm-d hat 3.9k Sterne auf GitHub. Es wurde 639-mal geforkt. llm-d ist hauptsächlich in Shell geschrieben. Es wird seit 2025 aktiv entwickelt. llm-d ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: ai, cncf, distributed-inference, gpu.
Was ist llm-d?
Erreichen Sie eine hochmoderne Inferenzleistung mit modernen Beschleunigern auf Kubernetes.
Ist llm-d Open Source?
llm-d ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist llm-d kostenlos?
Ja. llm-d ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht llm-d?
llm-d ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist llm-d geschrieben?
llm-d ist hauptsächlich in Shell geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/llm-d-llm-d.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.