Megatron-LM
Pesquisa contínua treinando modelos de transformadores em grande escala
Treine modelos de linguagem grandes de forma eficiente usando uma biblioteca projetada para computação de alto desempenho.
Do README
uv pip install megatron-core
- Vocabulary size: 131,072 tokens
- Sequence length: 4,096 tokens
- Model scaling: Varied hidden size, attention heads, and layers to achieve target parameter counts
Trechos do README do projeto em GitHub. Os direitos autorais e as licenças permanecem com os respectivos autores.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserPesquisa contínua treinando modelos de transformadores em grande escala
Megatron-LM tem 17.7k estrelas no GitHub. Foi bifurcado 4.4k vezes. Megatron-LM é escrito principalmente em Python. Está em desenvolvimento ativo desde 2019. Os seus principais temas são: large-language-models, model-para, transformers.
O que é Megatron-LM?
Pesquisa contínua treinando modelos de transformadores em grande escala
Megatron-LM é de código aberto?
Megatron-LM é um projeto de código aberto.
Megatron-LM é gratuito?
Sim. Megatron-LM é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Em que linguagem Megatron-LM está escrito?
Megatron-LM é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/nvidia-megatron-lm.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.