Execute modelos de IA eficientes que usam menos memória enquanto mantêm a qualidade para tarefas como embedding.
Do README
git clone --recursive https://github.com/microsoft/BitNet.git cd BitNet
- 1.42x to 2.28x speedup over F16 on BitNet-embedding-0.6B prefill (8 threads)
- 1.32x to 1.74x speedup over F16 on BitNet-embedding-270M prefill (8 threads)
- Supports I2S conversion with optimized kernels on x86 CPUs
- Lossless inference with 2 bits per weight
Trechos do README do projeto em GitHub. Os direitos autorais e as licenças permanecem com os respectivos autores.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserFramework oficial de inferência para LLMs de 1-bit
BitNet tem 40.2k estrelas no GitHub. Foi bifurcado 3.7k vezes. BitNet é escrito principalmente em C++. Está em desenvolvimento ativo desde 2024. BitNet está disponível sob a licença MIT.
O que é BitNet?
Framework oficial de inferência para LLMs de 1-bit
BitNet é de código aberto?
BitNet é um projeto de código aberto. É distribuído sob a licença MIT.
BitNet é gratuito?
Sim. BitNet é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está BitNet?
BitNet está disponível sob a licença MIT.
Em que linguagem BitNet está escrito?
BitNet é escrito principalmente em C++.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/microsoft-bitnet.html)
