Inicio› Proyectos› flashinfer
flashinfer
Python

flashinfer

FlashInfer: Biblioteca Kernel para Servir LLM

por flashinfer-ai · GitHub
6.3k
Estrellas
1.4k
Ramas
+117 esta semana
Tendencias
Apache-2.0
Licencia
2023
Creado
today
Último commit
attention
Categoría
Python
Lenguaje
attentioncudadistributed-inferenceApache-2.0Python
Ver en GitHub
En palabras simples

Utiliza código optimizado para mejorar el rendimiento de los modelos de IA en diversas tarjetas gráficas durante la inferencia.

¿Mantienes este proyecto?

Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.

Reivindicar esta pagina →
flashinfer — GitHub preview card
📈 Historial de estrellas
6.3k5.9k
2026-07-122026-08-31
📈 Sigue flashinfer

Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.

Gratis · sin tarjeta · cancela cuando quieras
Recibir alertas por email →
📄 Acerca de

FlashInfer: Biblioteca Kernel para Servir LLM

flashinfer tiene 6.3k estrellas en GitHub. Se ha bifurcado 1.4k veces. flashinfer está escrito principalmente en Python. Se desarrolla activamente desde 2023. flashinfer está disponible bajo la licencia Apache-2.0. Sus temas principales son: attention, cuda, distributed-inference, gpu.

❓ Frequently asked questions

¿Qué es flashinfer?

FlashInfer: Biblioteca Kernel para Servir LLM

¿flashinfer es de código abierto?

flashinfer es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.

¿flashinfer es gratis?

Sí. flashinfer es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.

¿Bajo qué licencia está flashinfer?

flashinfer está disponible bajo la licencia Apache-2.0.

¿En qué lenguaje está escrito flashinfer?

flashinfer está escrito principalmente en Python.

🏅 ¿Mantenedor de este proyecto?
olud.ai badge — flashinfer

Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.

[![olud.ai](https://olud.ai/badge.php?tool=flashinfer-ai-flashinfer)](https://olud.ai/project/flashinfer-ai-flashinfer.html)
Más opciones de distintivos →
🧬 Comparte ADN con🧬 Ver el mapa de ADN →
torchrec
Biblioteca de dominio Pytorch para sistemas de recomendación
★ 2.6k · cuda
compartegpucuda
TensorRT-LLM
TensorRT LLM proporciona a los usuarios una API de Python fácil de usar para definir Modelos de…
★ 14.5k · blackwell
compartemoecuda
uccl
UCCL es una biblioteca de comunicación eficiente para GPUs, cubriendo colectivas, P2P (por ejem…
★ 1.5k · ai
compartemoenvidia
isaac_ros_common
Common utilities, packages, scripts, and testing infrastructure for Isaac ROS packages.
★ 307 · gpu
compartenvidiagpu
isaac_ros_nvblox
Reconstrucción de escenas 3D acelerada por NVIDIA y proveedor de mapa de costos local Nav2 util…
★ 724 · 3d-reconstruction
compartenvidiagpu
vins-application
VINS-Fusion, VINS-Fisheye, OpenVINS, EnVIO, ROVIO, S-MSCKF, ORB-SLAM2, aplicación NVIDIA Elbrus…
★ 607 · cuda
compartenvidiacuda
annotated_deep_learning_paper_implementations
🧑‍🏫 60+ Implementaciones/tutoriales de artículos de aprendizaje profundo con notas lado a lado…
★ 67.1k · attention
sglang
SGLang es un marco de alto rendimiento para servir grandes modelos de lenguaje y modelos multim…
★ 32.9k · attention
numpy-ml
Aprendizaje automático, en numpy
★ 16.3k · attention
OpenMythos
Una reconstrucción teórica de la arquitectura Claude Mythos, construida desde primeros principi…
★ 14.7k · ai

Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.