Un router Mixture-of-Models programmabile per inferenza LLM eterogenea
Instrada i compiti AI in modo intelligente attraverso diverse risorse di calcolo per migliori prestazioni.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiUn router Mixture-of-Models programmabile per inferenza LLM eterogenea
semantic-router ha 5.4k stelle su GitHub. È stato forkato 862 volte. semantic-router è scritto principalmente in Go. È in sviluppo attivo dal 2025. semantic-router è disponibile con licenza Apache-2.0. I suoi temi principali sono: ai-gateway, guardrails, inference, kubernetes.
Un router Mixture-of-Models programmabile per inferenza LLM eterogenea
semantic-router è un progetto open source. È rilasciato con licenza Apache-2.0.
Sì. semantic-router è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
semantic-router è disponibile con licenza Apache-2.0.
semantic-router è scritto principalmente in Go.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/vllm-project-semantic-router.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.