Exécutez de grands modèles AI sur un GPU à faible mémoire, permettant un traitement avancé du langage sans exigences matérielles lourdes.
Depuis le README
pip install airllm
- Step 1. make sure you have bitsandbytes installed by pip install -U bitsandbytes
- Step 2. make sure airllm verion later than 2.0.0: pip install -U airllm
- Step 3. when initialize the model, passing the argument compression ('4bit' or '8bit'):
Extraits du README du projet sur GitHub. Le droit d'auteur et les licences restent la propriété des auteurs respectifs.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentInference AirLLM 70B avec un GPU de 4 Go
airllm compte 33.2k étoiles sur GitHub. Il a été forké 3.5k fois. airllm est écrit principalement en Jupyter Notebook. Il est développé activement depuis 2023. airllm est disponible sous licence Apache-2.0. Ses principaux thèmes sont : chinese-llm, chinese-nlp, finetune, generative-ai.
Qu'est-ce que airllm ?
Inference AirLLM 70B avec un GPU de 4 Go
airllm est-il open source ?
airllm est un projet open source. Il est distribué sous licence Apache-2.0.
airllm est-il gratuit ?
Oui. airllm est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est airllm ?
airllm est disponible sous licence Apache-2.0.
Dans quel langage airllm est-il écrit ?
airllm est écrit principalement en Jupyter Notebook.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/lyogavin-airllm.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.