TransformerEngine
Eine Bibliothek zur Beschleunigung von Transformer-Modellen auf NVIDIA-GPUs, einschließlich der Verwendung von 8-Bit- und 4-Bit-Gleitkomma (FP8 und FP4) Präzision auf Hopper, Ada und Blackwell GPUs, um eine bessere Leistung bei geringerem Speicherverbrauch sowohl im Training als auch in der Inferenz zu bieten.
Beschleunigen Sie das Training von KI-Modellen auf NVIDIA-Grafikkarten, während Sie weniger Speicher verwenden.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarEine Bibliothek zur Beschleunigung von Transformer-Modellen auf NVIDIA-GPUs, einschließlich der Verwendung von 8-Bit- und 4-Bit-Gleitkomma (FP8 und FP4) Präzision auf Hopper, Ada und Blackwell GPUs, um eine bessere Leistung bei geringerem Speicherverbrauch sowohl im Training als auch in der Inferenz zu bieten.
TransformerEngine hat 3.5k Sterne auf GitHub. Es wurde 784-mal geforkt. TransformerEngine ist hauptsächlich in Python geschrieben. Es wird seit 2022 aktiv entwickelt. TransformerEngine ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: cuda, deep-learning, fp4, fp8.
Was ist TransformerEngine?
Eine Bibliothek zur Beschleunigung von Transformer-Modellen auf NVIDIA-GPUs, einschließlich der Verwendung von 8-Bit- und 4-Bit-Gleitkomma (FP8 und FP4) Präzision auf Hopper, Ada und Blackwell GPUs, um eine bessere Leistung bei geringerem Speicherverbrauch sowohl im Training als auch in der Inferenz zu bieten.
Ist TransformerEngine Open Source?
TransformerEngine ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist TransformerEngine kostenlos?
Ja. TransformerEngine ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht TransformerEngine?
TransformerEngine ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist TransformerEngine geschrieben?
TransformerEngine ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/nvidia-transformerengine.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.