Eine kompakte Implementierung von SGLang, entwickelt um die Komplexität moderner LLM-Servierungssysteme zu entmystifizieren.
Führen Sie große Sprachmodelle mit einem einfachen und effizienten Python-Framework aus und verstehen Sie sie.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarEine kompakte Implementierung von SGLang, entwickelt um die Komplexität moderner LLM-Servierungssysteme zu entmystifizieren.
mini-sglang hat 4.6k Sterne auf GitHub. Es wurde 759-mal geforkt. mini-sglang ist hauptsächlich in Python geschrieben. Es wird seit 2025 aktiv entwickelt. mini-sglang ist unter der MIT-Lizenz verfügbar.
Eine kompakte Implementierung von SGLang, entwickelt um die Komplexität moderner LLM-Servierungssysteme zu entmystifizieren.
mini-sglang ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.
Ja. mini-sglang ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
mini-sglang ist unter der MIT-Lizenz verfügbar.
mini-sglang ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/sgl-project-mini-sglang.html)