RTP-LLM: Alibabas Hochleistungs-LLM-Inferenz-Engine für vielfältige Anwendungen.
Verwende ein leistungsstarkes Tool, um große Sprachmodelle effizient für verschiedene Anwendungen auszuführen.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarRTP-LLM: Alibabas Hochleistungs-LLM-Inferenz-Engine für vielfältige Anwendungen.
rtp-llm hat 1.3k Sterne auf GitHub. Es wurde 245-mal geforkt. rtp-llm ist hauptsächlich in Cuda geschrieben. Es wird seit 2023 aktiv entwickelt. rtp-llm ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: gpt, inference, llama, llm.
RTP-LLM: Alibabas Hochleistungs-LLM-Inferenz-Engine für vielfältige Anwendungen.
rtp-llm ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ja. rtp-llm ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
rtp-llm ist unter der Apache-2.0-Lizenz verfügbar.
rtp-llm ist hauptsächlich in Cuda geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/alibaba-rtp-llm.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.