OmniQuant
[ICLR2024 spotlight] OmniQuant è una tecnica di quantizzazione semplice e potente per LLM.
Esegui una tecnica per ridurre le dimensioni dei modelli di linguaggio di grandi dimensioni per migliori prestazioni sul tuo hardware.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoi[ICLR2024 spotlight] OmniQuant è una tecnica di quantizzazione semplice e potente per LLM.
OmniQuant ha 904 stelle su GitHub. È stato forkato 84 volte. OmniQuant è scritto principalmente in Python. È in sviluppo attivo dal 2023. OmniQuant è disponibile con licenza MIT. I suoi temi principali sono: large-language-models, llm, quantization.
Che cos'è OmniQuant?
[ICLR2024 spotlight] OmniQuant è una tecnica di quantizzazione semplice e potente per LLM.
OmniQuant è open source?
OmniQuant è un progetto open source. È rilasciato con licenza MIT.
OmniQuant è gratuito?
Sì. OmniQuant è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è OmniQuant?
OmniQuant è disponibile con licenza MIT.
In quale linguaggio è scritto OmniQuant?
OmniQuant è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/opengvlab-omniquant.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.