Megatron-LM
Formation continue à la recherche de modèles de transformateurs à grande échelle
Formez des grands modèles de langage efficacement en utilisant une bibliothèque conçue pour le calcul haute performance.
Depuis le README
uv pip install megatron-core
- Vocabulary size: 131,072 tokens
- Sequence length: 4,096 tokens
- Model scaling: Varied hidden size, attention heads, and layers to achieve target parameter counts
Extraits du README du projet sur GitHub. Le droit d'auteur et les licences restent la propriété des auteurs respectifs.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentFormation continue à la recherche de modèles de transformateurs à grande échelle
Megatron-LM compte 17.7k étoiles sur GitHub. Il a été forké 4.4k fois. Megatron-LM est écrit principalement en Python. Il est développé activement depuis 2019. Ses principaux thèmes sont : large-language-models, model-para, transformers.
Qu'est-ce que Megatron-LM ?
Formation continue à la recherche de modèles de transformateurs à grande échelle
Megatron-LM est-il open source ?
Megatron-LM est un projet open source.
Megatron-LM est-il gratuit ?
Oui. Megatron-LM est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Dans quel langage Megatron-LM est-il écrit ?
Megatron-LM est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/nvidia-megatron-lm.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.