vllm-ascend
Von der Community gepflegtes Hardware-Plugin für vLLM auf Ascend
Verwenden Sie ein Plugin, um große Sprachmodelle auf Ascend-Hardware für eine effiziente Verarbeitung auszuführen.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarVon der Community gepflegtes Hardware-Plugin für vLLM auf Ascend
vllm-ascend hat 2.5k Sterne auf GitHub. Es wurde 1.9k-mal geforkt. vllm-ascend ist hauptsächlich in C++ geschrieben. Es wird seit 2025 aktiv entwickelt. vllm-ascend ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: ascend, inference, llm, llm-serving.
Was ist vllm-ascend?
Von der Community gepflegtes Hardware-Plugin für vLLM auf Ascend
Ist vllm-ascend Open Source?
vllm-ascend ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist vllm-ascend kostenlos?
Ja. vllm-ascend ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht vllm-ascend?
vllm-ascend ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist vllm-ascend geschrieben?
vllm-ascend ist hauptsächlich in C++ geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/vllm-project-vllm-ascend.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.