Führen Sie effiziente KI-Modelle aus, die weniger Speicher verwenden und gleichzeitig die Qualität für Aufgaben wie Einbettung aufrechterhalten.
Aus der README
git clone --recursive https://github.com/microsoft/BitNet.git cd BitNet
- 1.42x to 2.28x speedup over F16 on BitNet-embedding-0.6B prefill (8 threads)
- 1.32x to 1.74x speedup over F16 on BitNet-embedding-270M prefill (8 threads)
- Supports I2S conversion with optimized kernels on x86 CPUs
- Lossless inference with 2 bits per weight
Auszüge aus der Projekt-README zu GitHub. Das Urheberrecht und die Lizenzen verbleiben bei den jeweiligen Autoren.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarOffizielles Inferenz-Framework für 1-Bit-LLMs
BitNet hat 40.2k Sterne auf GitHub. Es wurde 3.7k-mal geforkt. BitNet ist hauptsächlich in C++ geschrieben. Es wird seit 2024 aktiv entwickelt. BitNet ist unter der MIT-Lizenz verfügbar.
Was ist BitNet?
Offizielles Inferenz-Framework für 1-Bit-LLMs
Ist BitNet Open Source?
BitNet ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.
Ist BitNet kostenlos?
Ja. BitNet ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht BitNet?
BitNet ist unter der MIT-Lizenz verfügbar.
In welcher Sprache ist BitNet geschrieben?
BitNet ist hauptsächlich in C++ geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/microsoft-bitnet.html)
