gigatoken
Tokenisation de modèle linguistique à GB/s
Convertissez rapidement votre texte en tokens pour les modèles de langage à grande vitesse.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentTokenisation de modèle linguistique à GB/s
gigatoken compte 3.7k étoiles sur GitHub. Il a été forké 191 fois. gigatoken est écrit principalement en Rust. Il est développé activement depuis 2025. gigatoken est disponible sous licence MIT. Ses principaux thèmes sont : llm, nlp, tokenization, tokenizer.
Qu'est-ce que gigatoken ?
Tokenisation de modèle linguistique à GB/s
gigatoken est-il open source ?
gigatoken est un projet open source. Il est distribué sous licence MIT.
gigatoken est-il gratuit ?
Oui. gigatoken est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est gigatoken ?
gigatoken est disponible sous licence MIT.
Dans quel langage gigatoken est-il écrit ?
gigatoken est écrit principalement en Rust.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/marcelroed-gigatoken.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.