H2O
[NeurIPS'23] H2O: Heavy-Hitter Oracle für effiziente generative Inferenz großer Sprachmodelle.
Führen Sie große Sprachmodelle effizienter aus, um lange Inhalte wie Dialoge und Geschichten zu generieren.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbar[NeurIPS'23] H2O: Heavy-Hitter Oracle für effiziente generative Inferenz großer Sprachmodelle.
H2O hat 532 Sterne auf GitHub. Es wurde 89-mal geforkt. H2O ist hauptsächlich in Python geschrieben. Es wird seit 2023 aktiv entwickelt. Die Hauptthemen sind: gpt-3, heavy-hitters, high-throughput, kv-cache.
Was ist H2O?
[NeurIPS'23] H2O: Heavy-Hitter Oracle für effiziente generative Inferenz großer Sprachmodelle.
Ist H2O Open Source?
H2O ist ein Open-Source-Projekt.
Ist H2O kostenlos?
Ja. H2O ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
In welcher Sprache ist H2O geschrieben?
H2O ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/fminference-h2o.html)
