Awesome-LLM-Inference
📚Eine kuratierte Liste von großartigen LLM/VLM-Inferenzpapieren mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelismus usw.🎉
Entdecken Sie eine Sammlung von Forschungsarbeiten und Code, die sich auf die Inferenz großer Sprachmodelle beziehen.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbar📚Eine kuratierte Liste von großartigen LLM/VLM-Inferenzpapieren mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelismus usw.🎉
Awesome-LLM-Inference hat 5.4k Sterne auf GitHub. Es wurde 428-mal geforkt. Awesome-LLM-Inference ist hauptsächlich in Python geschrieben. Es wird seit 2023 aktiv entwickelt. Awesome-LLM-Inference ist unter der GPL-3.0-Lizenz verfügbar. Die Hauptthemen sind: awesome-llm, deepseek, deepseek-r1, deepseek-v3.
Was ist Awesome-LLM-Inference?
📚Eine kuratierte Liste von großartigen LLM/VLM-Inferenzpapieren mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelismus usw.🎉
Ist Awesome-LLM-Inference Open Source?
Awesome-LLM-Inference ist ein Open-Source-Projekt. Es wird unter der GPL-3.0-Lizenz veröffentlicht.
Ist Awesome-LLM-Inference kostenlos?
Ja. Awesome-LLM-Inference ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht Awesome-LLM-Inference?
Awesome-LLM-Inference ist unter der GPL-3.0-Lizenz verfügbar.
In welcher Sprache ist Awesome-LLM-Inference geschrieben?
Awesome-LLM-Inference ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/xlite-dev-awesome-llm-inference.html)
