TransformerEngine
Uma biblioteca para acelerar modelos Transformer em GPUs NVIDIA, incluindo o uso de precisão de ponto flutuante de 8 bits e 4 bits (FP8 e FP4) em GPUs Hopper, Ada e Blackwell, para fornecer melhor desempenho com menor utilização de memória tanto no treinamento quanto na inferência.
Acelere o treinamento de modelos de IA em placas gráficas NVIDIA enquanto usa menos memória.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserUma biblioteca para acelerar modelos Transformer em GPUs NVIDIA, incluindo o uso de precisão de ponto flutuante de 8 bits e 4 bits (FP8 e FP4) em GPUs Hopper, Ada e Blackwell, para fornecer melhor desempenho com menor utilização de memória tanto no treinamento quanto na inferência.
TransformerEngine tem 3.5k estrelas no GitHub. Foi bifurcado 784 vezes. TransformerEngine é escrito principalmente em Python. Está em desenvolvimento ativo desde 2022. TransformerEngine está disponível sob a licença Apache-2.0. Os seus principais temas são: cuda, deep-learning, fp4, fp8.
O que é TransformerEngine?
Uma biblioteca para acelerar modelos Transformer em GPUs NVIDIA, incluindo o uso de precisão de ponto flutuante de 8 bits e 4 bits (FP8 e FP4) em GPUs Hopper, Ada e Blackwell, para fornecer melhor desempenho com menor utilização de memória tanto no treinamento quanto na inferência.
TransformerEngine é de código aberto?
TransformerEngine é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
TransformerEngine é gratuito?
Sim. TransformerEngine é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está TransformerEngine?
TransformerEngine está disponível sob a licença Apache-2.0.
Em que linguagem TransformerEngine está escrito?
TransformerEngine é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/nvidia-transformerengine.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.