smg
Engine-unabhängiger LLM-Gateway in Rust. Vollständige Kompatibilität mit OpenAI- und Anthropic-APIs über vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini und mehr. Branchenweit erster gRPC-Pipeline, KV-cache-bewusste Routenführung, Chatverlauf, Tokenisierungs-Caching, Responses API, Embeddings,
Verwalten und leiten Sie Anfragen für große KI-Modelle effizient über verschiedene Plattformen.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarEngine-unabhängiger LLM-Gateway in Rust. Vollständige Kompatibilität mit OpenAI- und Anthropic-APIs über vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini und mehr. Branchenweit erster gRPC-Pipeline, KV-cache-bewusste Routenführung, Chatverlauf, Tokenisierungs-Caching, Responses API, Embeddings,
smg hat 400 Sterne auf GitHub. Es wurde 121-mal geforkt. smg ist hauptsächlich in Rust geschrieben. Es wird seit 2025 aktiv entwickelt. smg ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: anthropic, anthropic-api, chat, claude.
Was ist smg?
Engine-unabhängiger LLM-Gateway in Rust. Vollständige Kompatibilität mit OpenAI- und Anthropic-APIs über vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini und mehr. Branchenweit erster gRPC-Pipeline, KV-cache-bewusste Routenführung, Chatverlauf, Tokenisierungs-Caching, Responses API, Embeddings,
Ist smg Open Source?
smg ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist smg kostenlos?
Ja. smg ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht smg?
smg ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist smg geschrieben?
smg ist hauptsächlich in Rust geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/lightseekorg-smg.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.