Megatron-LM
Investigación en curso sobre el entrenamiento de modelos de transformadores a gran escala
Entrena modelos de lenguaje grandes de manera eficiente utilizando una biblioteca diseñada para computación de alto rendimiento.
Del README
uv pip install megatron-core
- Vocabulary size: 131,072 tokens
- Sequence length: 4,096 tokens
- Model scaling: Varied hidden size, attention heads, and layers to achieve target parameter counts
Extractos del README del proyecto sobre GitHub. Los derechos de autor y las licencias permanecen con los respectivos autores.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasInvestigación en curso sobre el entrenamiento de modelos de transformadores a gran escala
Megatron-LM tiene 17.7k estrellas en GitHub. Se ha bifurcado 4.4k veces. Megatron-LM está escrito principalmente en Python. Se desarrolla activamente desde 2019. Sus temas principales son: large-language-models, model-para, transformers.
¿Qué es Megatron-LM?
Investigación en curso sobre el entrenamiento de modelos de transformadores a gran escala
¿Megatron-LM es de código abierto?
Megatron-LM es un proyecto de código abierto.
¿Megatron-LM es gratis?
Sí. Megatron-LM es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿En qué lenguaje está escrito Megatron-LM?
Megatron-LM está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/nvidia-megatron-lm.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.