flashinfer
FlashInfer : Bibliothèque de noyau pour le service LLM
Utilisez un code optimisé pour améliorer la performance des modèles IA sur diverses cartes graphiques lors de l'inférence.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentFlashInfer : Bibliothèque de noyau pour le service LLM
flashinfer compte 6.1k étoiles sur GitHub. Il a été forké 1.2k fois. flashinfer est écrit principalement en Python. Il est développé activement depuis 2023. flashinfer est disponible sous licence Apache-2.0. Ses principaux thèmes sont : attention, cuda, distributed-inference, gpu.
Qu'est-ce que flashinfer ?
FlashInfer : Bibliothèque de noyau pour le service LLM
flashinfer est-il open source ?
flashinfer est un projet open source. Il est distribué sous licence Apache-2.0.
flashinfer est-il gratuit ?
Oui. flashinfer est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est flashinfer ?
flashinfer est disponible sous licence Apache-2.0.
Dans quel langage flashinfer est-il écrit ?
flashinfer est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://opensourceai.tech/project/flashinfer-ai-flashinfer.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.