Awesome-LLM-Inference
📚Uma lista curada de Artigos de Inferência LLM/VLM Incríveis com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Paralelismo, etc.🎉
Explore uma coleção de artigos de pesquisa e código relacionados à inferência de grandes modelos de linguagem.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiser📚Uma lista curada de Artigos de Inferência LLM/VLM Incríveis com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Paralelismo, etc.🎉
Awesome-LLM-Inference tem 5.4k estrelas no GitHub. Foi bifurcado 428 vezes. Awesome-LLM-Inference é escrito principalmente em Python. Está em desenvolvimento ativo desde 2023. Awesome-LLM-Inference está disponível sob a licença GPL-3.0. Os seus principais temas são: awesome-llm, deepseek, deepseek-r1, deepseek-v3.
O que é Awesome-LLM-Inference?
📚Uma lista curada de Artigos de Inferência LLM/VLM Incríveis com Códigos: Flash-Attention, Paged-Attention, WINT8/4, Paralelismo, etc.🎉
Awesome-LLM-Inference é de código aberto?
Awesome-LLM-Inference é um projeto de código aberto. É distribuído sob a licença GPL-3.0.
Awesome-LLM-Inference é gratuito?
Sim. Awesome-LLM-Inference é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está Awesome-LLM-Inference?
Awesome-LLM-Inference está disponível sob a licença GPL-3.0.
Em que linguagem Awesome-LLM-Inference está escrito?
Awesome-LLM-Inference é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/xlite-dev-awesome-llm-inference.html)
