Roteador Inteligente de Mistura de Modelos para Inferência Eficiente de LLMs Heterogêneos
Roteie tarefas de IA de forma inteligente entre diferentes recursos computacionais para melhor desempenho.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserRoteador Inteligente de Mistura de Modelos para Inferência Eficiente de LLMs Heterogêneos
semantic-router tem 5.1k estrelas no GitHub. Foi bifurcado 784 vezes. semantic-router é escrito principalmente em Go. Está em desenvolvimento ativo desde 2025. semantic-router está disponível sob a licença Apache-2.0. Os seus principais temas são: ai-gateway, bert-classification, fine-tuning, golang.
Roteador Inteligente de Mistura de Modelos para Inferência Eficiente de LLMs Heterogêneos
semantic-router é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
Sim. semantic-router é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
semantic-router está disponível sob a licença Apache-2.0.
semantic-router é escrito principalmente em Go.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/vllm-project-semantic-router.html)