[ICML 2024] SqueezeLLM : Quantification dense et sparse
Déployez des modèles de langage de grande taille sur votre propre serveur en utilisant une méthode qui réduit l'utilisation de la mémoire sans perdre en performance.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout moment[ICML 2024] SqueezeLLM : Quantification dense et sparse
SqueezeLLM compte 722 étoiles sur GitHub. Il a été forké 51 fois. SqueezeLLM est écrit principalement en Python. Il est développé activement depuis 2023. SqueezeLLM est disponible sous licence MIT. Ses principaux thèmes sont : efficient-inference, large-language-models, llama, llm.
[ICML 2024] SqueezeLLM : Quantification dense et sparse
SqueezeLLM est un projet open source. Il est distribué sous licence MIT.
Oui. SqueezeLLM est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
SqueezeLLM est disponible sous licence MIT.
SqueezeLLM est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://opensourceai.tech/project/squeezeailab-squeezellm.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.