RTP-LLM : moteur d'inférence LLM haute performance d'Alibaba pour des applications diverses.
Utilisez un outil haute performance pour exécuter efficacement de grands modèles de langage pour différentes applications.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentRTP-LLM : moteur d'inférence LLM haute performance d'Alibaba pour des applications diverses.
rtp-llm compte 1.3k étoiles sur GitHub. Il a été forké 245 fois. rtp-llm est écrit principalement en Cuda. Il est développé activement depuis 2023. rtp-llm est disponible sous licence Apache-2.0. Ses principaux thèmes sont : gpt, inference, llama, llm.
RTP-LLM : moteur d'inférence LLM haute performance d'Alibaba pour des applications diverses.
rtp-llm est un projet open source. Il est distribué sous licence Apache-2.0.
Oui. rtp-llm est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
rtp-llm est disponible sous licence Apache-2.0.
rtp-llm est écrit principalement en Cuda.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/alibaba-rtp-llm.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.