flashinfer
FlashInfer: Biblioteca Kernel para Servir LLM
Use código otimizado para melhorar o desempenho de modelos de IA em várias placas gráficas durante a inferência.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserFlashInfer: Biblioteca Kernel para Servir LLM
flashinfer tem 6.1k estrelas no GitHub. Foi bifurcado 1.2k vezes. flashinfer é escrito principalmente em Python. Está em desenvolvimento ativo desde 2023. flashinfer está disponível sob a licença Apache-2.0. Os seus principais temas são: attention, cuda, distributed-inference, gpu.
O que é flashinfer?
FlashInfer: Biblioteca Kernel para Servir LLM
flashinfer é de código aberto?
flashinfer é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
flashinfer é gratuito?
Sim. flashinfer é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está flashinfer?
flashinfer está disponível sob a licença Apache-2.0.
Em que linguagem flashinfer está escrito?
flashinfer é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/flashinfer-ai-flashinfer.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.