Accueil› Projets› flashinfer
flashinfer
Python

flashinfer

FlashInfer : Bibliothèque de noyau pour le service LLM

par flashinfer-ai · GitHub
6.3k
Étoiles
1.4k
Forks
+117 cette semaine
Tendances
Apache-2.0
Licence
2023
Créé
today
Dernier commit
attention
Catégorie
Python
Langue
attentioncudadistributed-inferenceApache-2.0Python
Voir sur GitHub
En termes simples

Utilisez du code optimisé pour améliorer la performance des modèles IA sur diverses cartes graphiques lors de l'inférence.

Vous maintenez ce projet ?

Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.

Revendiquer cette page →
flashinfer — GitHub preview card
📈 Historique des étoiles
6.3k5.9k
2026-07-122026-08-31
📈 Suivez flashinfer

Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.

Gratuit · sans carte · désinscription à tout moment
Recevoir des alertes e-mail →
📄 À propos

FlashInfer : Bibliothèque de noyau pour le service LLM

flashinfer compte 6.3k étoiles sur GitHub. Il a été forké 1.4k fois. flashinfer est écrit principalement en Python. Il est développé activement depuis 2023. flashinfer est disponible sous licence Apache-2.0. Ses principaux thèmes sont : attention, cuda, distributed-inference, gpu.

❓ Frequently asked questions

Qu'est-ce que flashinfer ?

FlashInfer : Bibliothèque de noyau pour le service LLM

flashinfer est-il open source ?

flashinfer est un projet open source. Il est distribué sous licence Apache-2.0.

flashinfer est-il gratuit ?

Oui. flashinfer est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.

Sous quelle licence est flashinfer ?

flashinfer est disponible sous licence Apache-2.0.

Dans quel langage flashinfer est-il écrit ?

flashinfer est écrit principalement en Python.

🏅 Mainteneur de ce projet ?
olud.ai badge — flashinfer

Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.

[![olud.ai](https://olud.ai/badge.php?tool=flashinfer-ai-flashinfer)](https://olud.ai/project/flashinfer-ai-flashinfer.html)
Plus d'options de badge →
🧬 Partage son ADN avec🧬 Voir la cartographie ADN →
torchrec
Bibliothèque de domaine Pytorch pour les systèmes de recommandation
★ 2.6k · cuda
partagegpucuda
TensorRT-LLM
TensorRT LLM fournit aux utilisateurs une API Python facile à utiliser pour définir des modèles…
★ 14.5k · blackwell
partagemoecuda
uccl
UCCL est une bibliothèque de communication efficace pour les GPU, couvrant les collectifs, P2P…
★ 1.5k · ai
partagemoenvidia
isaac_ros_common
Common utilities, packages, scripts, and testing infrastructure for Isaac ROS packages.
★ 307 · gpu
partagenvidiagpu
isaac_ros_nvblox
Reconstruction de scène 3D accélérée par NVIDIA et fournisseur de carte de coût local Nav2 util…
★ 724 · 3d-reconstruction
partagenvidiagpu
vins-application
VINS-Fusion, VINS-Fisheye, OpenVINS, EnVIO, ROVIO, S-MSCKF, ORB-SLAM2, application NVIDIA Elbru…
★ 607 · cuda
partagenvidiacuda
annotated_deep_learning_paper_implementations
🧑‍🏫 60+ Implémentations/tutoriels de papiers sur l'apprentissage profond avec des notes côte à…
★ 67.1k · attention
sglang
SGLang est un cadre de service haute performance pour les grands modèles de langage et les modè…
★ 32.9k · attention
numpy-ml
Apprentissage automatique, en numpy
★ 16.3k · attention
OpenMythos
Une reconstruction théorique de l'architecture Claude Mythos, construite à partir de premiers p…
★ 14.7k · ai

Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.