LightLLM
LightLLM est un cadre d'inférence et de service LLM (Modèle de Langage Large) basé sur Python, remarquable pour son design léger, sa scalabilité facile et sa performance rapide.
Exécutez et servez des modèles de langage large efficacement avec un framework Python léger.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentLightLLM est un cadre d'inférence et de service LLM (Modèle de Langage Large) basé sur Python, remarquable pour son design léger, sa scalabilité facile et sa performance rapide.
LightLLM compte 4.3k étoiles sur GitHub. Il a été forké 358 fois. LightLLM est écrit principalement en Python. Il est développé activement depuis 2023. LightLLM est disponible sous licence Apache-2.0. Ses principaux thèmes sont : deep-learning, gpt, llama, llm.
Qu'est-ce que LightLLM ?
LightLLM est un cadre d'inférence et de service LLM (Modèle de Langage Large) basé sur Python, remarquable pour son design léger, sa scalabilité facile et sa performance rapide.
LightLLM est-il open source ?
LightLLM est un projet open source. Il est distribué sous licence Apache-2.0.
LightLLM est-il gratuit ?
Oui. LightLLM est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est LightLLM ?
LightLLM est disponible sous licence Apache-2.0.
Dans quel langage LightLLM est-il écrit ?
LightLLM est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/modeltc-lightllm.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.