INT4/INT5/INT8 und FP16 Inferenz auf CPU für RWKV-Sprachmodell.
Führen Sie ein Sprachmodell auf Ihrem Computer mit Unterstützung für verschiedene Präzisionsformate aus, um die Leistung zu optimieren.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarINT4/INT5/INT8 und FP16 Inferenz auf CPU für RWKV-Sprachmodell.
rwkv.cpp hat 1.6k Sterne auf GitHub. Es wurde 128-mal geforkt. rwkv.cpp ist hauptsächlich in C++ geschrieben. Es wird seit 2023 aktiv entwickelt. rwkv.cpp ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: deep-learning, ggml, language-model, llm.
INT4/INT5/INT8 und FP16 Inferenz auf CPU für RWKV-Sprachmodell.
rwkv.cpp ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.
Ja. rwkv.cpp ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
rwkv.cpp ist unter der MIT-Lizenz verfügbar.
rwkv.cpp ist hauptsächlich in C++ geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/rwkv-rwkv-cpp.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.