OmniQuant
[ICLR2024 Spotlight] OmniQuant ist eine einfache und leistungsstarke Quantisierungstechnik für LLMs.
Führen Sie eine Technik aus, um die Größe großer Sprachmodelle für eine bessere Leistung auf Ihrer eigenen Hardware zu reduzieren.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbar[ICLR2024 Spotlight] OmniQuant ist eine einfache und leistungsstarke Quantisierungstechnik für LLMs.
OmniQuant hat 904 Sterne auf GitHub. Es wurde 84-mal geforkt. OmniQuant ist hauptsächlich in Python geschrieben. Es wird seit 2023 aktiv entwickelt. OmniQuant ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: large-language-models, llm, quantization.
Was ist OmniQuant?
[ICLR2024 Spotlight] OmniQuant ist eine einfache und leistungsstarke Quantisierungstechnik für LLMs.
Ist OmniQuant Open Source?
OmniQuant ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.
Ist OmniQuant kostenlos?
Ja. OmniQuant ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht OmniQuant?
OmniQuant ist unter der MIT-Lizenz verfügbar.
In welcher Sprache ist OmniQuant geschrieben?
OmniQuant ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/opengvlab-omniquant.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.