gpu_poor
Berechne Token/s & GPU-Speicheranforderungen für jedes LLM. Unterstützt llama.cpp/ggml/bnb/QLoRA-Quantisierung
Bestimmen Sie den benötigten GPU-Speicher und Leistungskennzahlen für das Ausführen von Sprachmodellen auf Ihrer Hardware.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarBerechne Token/s & GPU-Speicheranforderungen für jedes LLM. Unterstützt llama.cpp/ggml/bnb/QLoRA-Quantisierung
gpu_poor hat 1.4k Sterne auf GitHub. Es wurde 88-mal geforkt. gpu_poor ist hauptsächlich in JavaScript geschrieben. Es wird seit 2023 aktiv entwickelt. Die Hauptthemen sind: ggml, gpu, huggingface, language-model.
Was ist gpu_poor?
Berechne Token/s & GPU-Speicheranforderungen für jedes LLM. Unterstützt llama.cpp/ggml/bnb/QLoRA-Quantisierung
Ist gpu_poor Open Source?
gpu_poor ist ein Open-Source-Projekt.
Ist gpu_poor kostenlos?
Ja. gpu_poor ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
In welcher Sprache ist gpu_poor geschrieben?
gpu_poor ist hauptsächlich in JavaScript geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/rahulschand-gpu-poor.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.