flashinfer
FlashInfer: Libreria Kernel per Servire LLM
Usa codice ottimizzato per migliorare le prestazioni dei modelli AI su varie schede grafiche durante l'inferenza.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiFlashInfer: Libreria Kernel per Servire LLM
flashinfer ha 6.1k stelle su GitHub. È stato forkato 1.2k volte. flashinfer è scritto principalmente in Python. È in sviluppo attivo dal 2023. flashinfer è disponibile con licenza Apache-2.0. I suoi temi principali sono: attention, cuda, distributed-inference, gpu.
Che cos'è flashinfer?
FlashInfer: Libreria Kernel per Servire LLM
flashinfer è open source?
flashinfer è un progetto open source. È rilasciato con licenza Apache-2.0.
flashinfer è gratuito?
Sì. flashinfer è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è flashinfer?
flashinfer è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto flashinfer?
flashinfer è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/flashinfer-ai-flashinfer.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.