Quantification LLM à faible bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsité ; techniques de compression de modèle de pointe sur PyTorch, TensorFlow et ONNX Runtime
Appliquez des techniques avancées pour réduire la taille des modèles d'apprentissage automatique afin d'améliorer les performances sur des frameworks populaires.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentQuantification LLM à faible bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsité ; techniques de compression de modèle de pointe sur PyTorch, TensorFlow et ONNX Runtime
neural-compressor compte 2.7k étoiles sur GitHub. Il a été forké 318 fois. neural-compressor est écrit principalement en Python. Il est développé activement depuis 2020. neural-compressor est disponible sous licence Apache-2.0. Ses principaux thèmes sont : auto-tuning, awq, fp4, gptq.
Quantification LLM à faible bit SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsité ; techniques de compression de modèle de pointe sur PyTorch, TensorFlow et ONNX Runtime
neural-compressor est un projet open source. Il est distribué sous licence Apache-2.0.
Oui. neural-compressor est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
neural-compressor est disponible sous licence Apache-2.0.
neural-compressor est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://opensourceai.tech/project/intel-neural-compressor.html)