smg
Passerelle LLM indépendante du moteur en Rust. Compatibilité totale avec les API OpenAI & Anthropic à travers vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini et plus. Pipeline gRPC de première industrie, routage sensible au cache KV, historique de chat, mise en cache de tokenisation, API de réponses, embeddings,
Gérez et redirigez les demandes pour de grands modèles AI sur différentes plateformes de manière efficace.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentPasserelle LLM indépendante du moteur en Rust. Compatibilité totale avec les API OpenAI & Anthropic à travers vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini et plus. Pipeline gRPC de première industrie, routage sensible au cache KV, historique de chat, mise en cache de tokenisation, API de réponses, embeddings,
smg compte 400 étoiles sur GitHub. Il a été forké 121 fois. smg est écrit principalement en Rust. Il est développé activement depuis 2025. smg est disponible sous licence Apache-2.0. Ses principaux thèmes sont : anthropic, anthropic-api, chat, claude.
Qu'est-ce que smg ?
Passerelle LLM indépendante du moteur en Rust. Compatibilité totale avec les API OpenAI & Anthropic à travers vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini et plus. Pipeline gRPC de première industrie, routage sensible au cache KV, historique de chat, mise en cache de tokenisation, API de réponses, embeddings,
smg est-il open source ?
smg est un projet open source. Il est distribué sous licence Apache-2.0.
smg est-il gratuit ?
Oui. smg est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est smg ?
smg est disponible sous licence Apache-2.0.
Dans quel langage smg est-il écrit ?
smg est écrit principalement en Rust.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/lightseekorg-smg.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.