RTP-LLM : moteur d'inférence LLM haute performance d'Alibaba pour des applications diverses.
Utilisez un outil haute performance pour exécuter des modèles de langage de grande taille pour différentes applications de manière efficace.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentRTP-LLM : moteur d'inférence LLM haute performance d'Alibaba pour des applications diverses.
rtp-llm compte 1.3k étoiles sur GitHub. Il a été forké 241 fois. rtp-llm est écrit principalement en Cuda. Il est développé activement depuis 2023. rtp-llm est disponible sous licence Apache-2.0. Ses principaux thèmes sont : gpt, inference, llama, llm.
RTP-LLM : moteur d'inférence LLM haute performance d'Alibaba pour des applications diverses.
rtp-llm est un projet open source. Il est distribué sous licence Apache-2.0.
Oui. rtp-llm est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
rtp-llm est disponible sous licence Apache-2.0.
rtp-llm est écrit principalement en Cuda.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/alibaba-rtp-llm.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.