SqueezeLLM
[ICML 2024] SqueezeLLM: Dichte- und spärliche Quantisierung.
Setzen Sie große Sprachmodelle auf Ihrem eigenen Server ein, indem Sie eine Methode verwenden, die den Speicherverbrauch reduziert, ohne die Leistung zu verlieren.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbar[ICML 2024] SqueezeLLM: Dichte- und spärliche Quantisierung.
SqueezeLLM hat 722 Sterne auf GitHub. Es wurde 51-mal geforkt. SqueezeLLM ist hauptsächlich in Python geschrieben. Es wird seit 2023 aktiv entwickelt. SqueezeLLM ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: efficient-inference, large-language-models, llama, llm.
Was ist SqueezeLLM?
[ICML 2024] SqueezeLLM: Dichte- und spärliche Quantisierung.
Ist SqueezeLLM Open Source?
SqueezeLLM ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.
Ist SqueezeLLM kostenlos?
Ja. SqueezeLLM ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht SqueezeLLM?
SqueezeLLM ist unter der MIT-Lizenz verfügbar.
In welcher Sprache ist SqueezeLLM geschrieben?
SqueezeLLM ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/squeezeailab-squeezellm.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.