Ein programmierbarer Mixture-of-Models-Router für heterogene LLM-Inferenz.
Leiten Sie AI-Aufgaben intelligent über verschiedene Rechenressourcen für bessere Leistung.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarEin programmierbarer Mixture-of-Models-Router für heterogene LLM-Inferenz.
semantic-router hat 5.4k Sterne auf GitHub. Es wurde 862-mal geforkt. semantic-router ist hauptsächlich in Go geschrieben. Es wird seit 2025 aktiv entwickelt. semantic-router ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: ai-gateway, guardrails, inference, kubernetes.
Ein programmierbarer Mixture-of-Models-Router für heterogene LLM-Inferenz.
semantic-router ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ja. semantic-router ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
semantic-router ist unter der Apache-2.0-Lizenz verfügbar.
semantic-router ist hauptsächlich in Go geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/vllm-project-semantic-router.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.