PowerInfer
Service de modèle de langage large à grande vitesse pour déploiement local
Exécutez de grands modèles de langage sur votre propre appareil pour une génération de texte rapide.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentService de modèle de langage large à grande vitesse pour déploiement local
PowerInfer compte 9.8k étoiles sur GitHub. Il a été forké 597 fois. PowerInfer est écrit principalement en C++. Il est développé activement depuis 2023. PowerInfer est disponible sous licence MIT. Ses principaux thèmes sont : large-language-models, llama, llm, llm-inference.
Qu'est-ce que PowerInfer ?
Service de modèle de langage large à grande vitesse pour déploiement local
PowerInfer est-il open source ?
PowerInfer est un projet open source. Il est distribué sous licence MIT.
PowerInfer est-il gratuit ?
Oui. PowerInfer est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est PowerInfer ?
PowerInfer est disponible sous licence MIT.
Dans quel langage PowerInfer est-il écrit ?
PowerInfer est écrit principalement en C++.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/tiiny-ai-powerinfer.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.