Schneller Inferenz-Engine für Transformer-Modelle
Führen Sie Transformer-Modelle effizient auf Ihrem Computer mit optimierter Leistung und reduziertem Speicherverbrauch aus.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarSchneller Inferenz-Engine für Transformer-Modelle
CTranslate2 hat 4.6k Sterne auf GitHub. Es wurde 503-mal geforkt. CTranslate2 ist hauptsächlich in C++ geschrieben. Es wird seit 2019 aktiv entwickelt. CTranslate2 ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: avx, avx2, cpp, cuda.
Schneller Inferenz-Engine für Transformer-Modelle
CTranslate2 ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.
Ja. CTranslate2 ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
CTranslate2 ist unter der MIT-Lizenz verfügbar.
CTranslate2 ist hauptsächlich in C++ geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/opennmt-ctranslate2.html)