OmniQuant
[ICLR2024 spotlight] OmniQuant é uma técnica de quantização simples e poderosa para LLMs.
Execute uma técnica para reduzir o tamanho de grandes modelos de linguagem para melhor desempenho em seu próprio hardware.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiser[ICLR2024 spotlight] OmniQuant é uma técnica de quantização simples e poderosa para LLMs.
OmniQuant tem 904 estrelas no GitHub. Foi bifurcado 84 vezes. OmniQuant é escrito principalmente em Python. Está em desenvolvimento ativo desde 2023. OmniQuant está disponível sob a licença MIT. Os seus principais temas são: large-language-models, llm, quantization.
O que é OmniQuant?
[ICLR2024 spotlight] OmniQuant é uma técnica de quantização simples e poderosa para LLMs.
OmniQuant é de código aberto?
OmniQuant é um projeto de código aberto. É distribuído sob a licença MIT.
OmniQuant é gratuito?
Sim. OmniQuant é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está OmniQuant?
OmniQuant está disponível sob a licença MIT.
Em que linguagem OmniQuant está escrito?
OmniQuant é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/opengvlab-omniquant.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.