smg
Puerta de enlace LLM independiente del motor en Rust. Compatibilidad total con las API de OpenAI y Anthropic a través de vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini y más. Primer pipeline gRPC de la industria, enrutamiento consciente de caché KV, historial de chat, caché de tokenización, API de respuestas, embeddings.
Gestiona y enruta solicitudes para grandes modelos de IA a través de diferentes plataformas de manera eficiente.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasPuerta de enlace LLM independiente del motor en Rust. Compatibilidad total con las API de OpenAI y Anthropic a través de vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini y más. Primer pipeline gRPC de la industria, enrutamiento consciente de caché KV, historial de chat, caché de tokenización, API de respuestas, embeddings.
smg tiene 400 estrellas en GitHub. Se ha bifurcado 121 veces. smg está escrito principalmente en Rust. Se desarrolla activamente desde 2025. smg está disponible bajo la licencia Apache-2.0. Sus temas principales son: anthropic, anthropic-api, chat, claude.
¿Qué es smg?
Puerta de enlace LLM independiente del motor en Rust. Compatibilidad total con las API de OpenAI y Anthropic a través de vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini y más. Primer pipeline gRPC de la industria, enrutamiento consciente de caché KV, historial de chat, caché de tokenización, API de respuestas, embeddings.
¿smg es de código abierto?
smg es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿smg es gratis?
Sí. smg es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está smg?
smg está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito smg?
smg está escrito principalmente en Rust.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/lightseekorg-smg.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.