Inférence INT4/INT5/INT8 et FP16 sur CPU pour le modèle de langage RWKV
Exécutez un modèle de langage sur votre ordinateur avec support pour divers formats de précision afin d'optimiser les performances.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentInférence INT4/INT5/INT8 et FP16 sur CPU pour le modèle de langage RWKV
rwkv.cpp compte 1.6k étoiles sur GitHub. Il a été forké 128 fois. rwkv.cpp est écrit principalement en C++. Il est développé activement depuis 2023. rwkv.cpp est disponible sous licence MIT. Ses principaux thèmes sont : deep-learning, ggml, language-model, llm.
Inférence INT4/INT5/INT8 et FP16 sur CPU pour le modèle de langage RWKV
rwkv.cpp est un projet open source. Il est distribué sous licence MIT.
Oui. rwkv.cpp est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
rwkv.cpp est disponible sous licence MIT.
rwkv.cpp est écrit principalement en C++.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://opensourceai.tech/project/rwkv-rwkv-cpp.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.