Esegui modelli AI efficienti che utilizzano meno memoria mantenendo la qualità per compiti come l'embedding.
Dal README
git clone --recursive https://github.com/microsoft/BitNet.git cd BitNet
- 1.42x to 2.28x speedup over F16 on BitNet-embedding-0.6B prefill (8 threads)
- 1.32x to 1.74x speedup over F16 on BitNet-embedding-270M prefill (8 threads)
- Supports I2S conversion with optimized kernels on x86 CPUs
- Lossless inference with 2 bits per weight
Estratti dal README del progetto su GitHub. I diritti d'autore e le licenze rimangono con i rispettivi autori.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiFramework ufficiale di inferenza per LLM a 1 bit
BitNet ha 40.2k stelle su GitHub. È stato forkato 3.7k volte. BitNet è scritto principalmente in C++. È in sviluppo attivo dal 2024. BitNet è disponibile con licenza MIT.
Che cos'è BitNet?
Framework ufficiale di inferenza per LLM a 1 bit
BitNet è open source?
BitNet è un progetto open source. È rilasciato con licenza MIT.
BitNet è gratuito?
Sì. BitNet è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è BitNet?
BitNet è disponibile con licenza MIT.
In quale linguaggio è scritto BitNet?
BitNet è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/microsoft-bitnet.html)
