TransformerEngine
Una libreria per accelerare i modelli Transformer su GPU NVIDIA, inclusa l'uso di precisione a 8 bit e 4 bit (FP8 e FP4) su GPU Hopper, Ada e Blackwell, per fornire migliori prestazioni con un utilizzo della memoria inferiore sia in addestramento che in inferenza.
Accelera l'addestramento dei modelli AI su schede grafiche NVIDIA riducendo al contempo l'uso della memoria.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiUna libreria per accelerare i modelli Transformer su GPU NVIDIA, inclusa l'uso di precisione a 8 bit e 4 bit (FP8 e FP4) su GPU Hopper, Ada e Blackwell, per fornire migliori prestazioni con un utilizzo della memoria inferiore sia in addestramento che in inferenza.
TransformerEngine ha 3.5k stelle su GitHub. È stato forkato 784 volte. TransformerEngine è scritto principalmente in Python. È in sviluppo attivo dal 2022. TransformerEngine è disponibile con licenza Apache-2.0. I suoi temi principali sono: cuda, deep-learning, fp4, fp8.
Che cos'è TransformerEngine?
Una libreria per accelerare i modelli Transformer su GPU NVIDIA, inclusa l'uso di precisione a 8 bit e 4 bit (FP8 e FP4) su GPU Hopper, Ada e Blackwell, per fornire migliori prestazioni con un utilizzo della memoria inferiore sia in addestramento che in inferenza.
TransformerEngine è open source?
TransformerEngine è un progetto open source. È rilasciato con licenza Apache-2.0.
TransformerEngine è gratuito?
Sì. TransformerEngine è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è TransformerEngine?
TransformerEngine è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto TransformerEngine?
TransformerEngine è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/nvidia-transformerengine.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.