Motore di inferenza veloce per modelli Transformer
Esegui modelli Transformer in modo efficiente sul tuo computer con prestazioni ottimizzate e ridotto utilizzo di memoria.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiMotore di inferenza veloce per modelli Transformer
CTranslate2 ha 4.6k stelle su GitHub. È stato forkato 503 volte. CTranslate2 è scritto principalmente in C++. È in sviluppo attivo dal 2019. CTranslate2 è disponibile con licenza MIT. I suoi temi principali sono: avx, avx2, cpp, cuda.
Motore di inferenza veloce per modelli Transformer
CTranslate2 è un progetto open source. È rilasciato con licenza MIT.
Sì. CTranslate2 è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
CTranslate2 è disponibile con licenza MIT.
CTranslate2 è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/opennmt-ctranslate2.html)