GPTQModel
Boîte à outils de quantification (compression) de modèle LLM avec support d'accélération HW pour Nvidia, AMD, Intel GPU et Intel/AMD/Apple CPU via HF, vLLM et SGLang.
Compressez de grands modèles de langage pour qu'ils fonctionnent plus rapidement sur divers types de matériel informatique.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentBoîte à outils de quantification (compression) de modèle LLM avec support d'accélération HW pour Nvidia, AMD, Intel GPU et Intel/AMD/Apple CPU via HF, vLLM et SGLang.
GPTQModel compte 1.2k étoiles sur GitHub. Il a été forké 195 fois. GPTQModel est écrit principalement en Python. Il est développé activement depuis 2024. Ses principaux thèmes sont : gptq, optimum, peft, quantization.
Qu'est-ce que GPTQModel ?
Boîte à outils de quantification (compression) de modèle LLM avec support d'accélération HW pour Nvidia, AMD, Intel GPU et Intel/AMD/Apple CPU via HF, vLLM et SGLang.
GPTQModel est-il open source ?
GPTQModel est un projet open source.
GPTQModel est-il gratuit ?
Oui. GPTQModel est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Dans quel langage GPTQModel est-il écrit ?
GPTQModel est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://opensourceai.tech/project/modelcloud-gptqmodel.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.