smg
Gateway LLM independente de mecanismo em Rust. Total compatibilidade com as APIs OpenAI & Anthropic em vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini e mais. Pipeline gRPC de primeira linha da indústria, roteamento ciente de cache KV, histórico de chat, cache de tokenização, API de respostas, embeddings,
Gerencie e roteie solicitações para grandes modelos de IA em diferentes plataformas de forma eficiente.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserGateway LLM independente de mecanismo em Rust. Total compatibilidade com as APIs OpenAI & Anthropic em vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini e mais. Pipeline gRPC de primeira linha da indústria, roteamento ciente de cache KV, histórico de chat, cache de tokenização, API de respostas, embeddings,
smg tem 400 estrelas no GitHub. Foi bifurcado 121 vezes. smg é escrito principalmente em Rust. Está em desenvolvimento ativo desde 2025. smg está disponível sob a licença Apache-2.0. Os seus principais temas são: anthropic, anthropic-api, chat, claude.
O que é smg?
Gateway LLM independente de mecanismo em Rust. Total compatibilidade com as APIs OpenAI & Anthropic em vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini e mais. Pipeline gRPC de primeira linha da indústria, roteamento ciente de cache KV, histórico de chat, cache de tokenização, API de respostas, embeddings,
smg é de código aberto?
smg é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
smg é gratuito?
Sim. smg é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está smg?
smg está disponível sob a licença Apache-2.0.
Em que linguagem smg está escrito?
smg é escrito principalmente em Rust.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/lightseekorg-smg.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.