Awesome-LLM-Inference
📚Una lista curata di articoli di inferenza Awesome LLM/VLM con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉
Esplora una collezione di articoli di ricerca e codice relativi all'inferenza di modelli linguistici di grandi dimensioni.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoi📚Una lista curata di articoli di inferenza Awesome LLM/VLM con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉
Awesome-LLM-Inference ha 5.4k stelle su GitHub. È stato forkato 428 volte. Awesome-LLM-Inference è scritto principalmente in Python. È in sviluppo attivo dal 2023. Awesome-LLM-Inference è disponibile con licenza GPL-3.0. I suoi temi principali sono: awesome-llm, deepseek, deepseek-r1, deepseek-v3.
Che cos'è Awesome-LLM-Inference?
📚Una lista curata di articoli di inferenza Awesome LLM/VLM con codici: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, ecc.🎉
Awesome-LLM-Inference è open source?
Awesome-LLM-Inference è un progetto open source. È rilasciato con licenza GPL-3.0.
Awesome-LLM-Inference è gratuito?
Sì. Awesome-LLM-Inference è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è Awesome-LLM-Inference?
Awesome-LLM-Inference è disponibile con licenza GPL-3.0.
In quale linguaggio è scritto Awesome-LLM-Inference?
Awesome-LLM-Inference è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/xlite-dev-awesome-llm-inference.html)
