Gateway LLM independente de mecanismo em Rust. Total compatibilidade com as APIs OpenAI & Anthropic em vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini e mais. Pipeline gRPC de primeira linha da indústria, roteamento ciente de cache KV, histórico de chat, cache de tokenização, API de respostas, embeddings,
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserGateway LLM independente de mecanismo em Rust. Total compatibilidade com as APIs OpenAI & Anthropic em vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini e mais. Pipeline gRPC de primeira linha da indústria, roteamento ciente de cache KV, histórico de chat, cache de tokenização, API de respostas, embeddings,
smg tem 421 estrelas no GitHub. Foi bifurcado 126 vezes. smg é escrito principalmente em Rust. Está em desenvolvimento ativo desde 2025. smg está disponível sob a licença Apache-2.0. Os seus principais temas são: anthropic, anthropic-api, chat, claude.
Gateway LLM independente de mecanismo em Rust. Total compatibilidade com as APIs OpenAI & Anthropic em vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini e mais. Pipeline gRPC de primeira linha da indústria, roteamento ciente de cache KV, histórico de chat, cache de tokenização, API de respostas, embeddings,
smg é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
Sim. smg é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
smg está disponível sob a licença Apache-2.0.
smg é escrito principalmente em Rust.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/lightseekorg-smg.html)