Accueil Projets tokenizers
tokenizers
Rust

tokenizers

💥 Tokenizers rapides à la pointe de la technologie optimisés pour la recherche et la production

par huggingface · GitHub
Étoiles
Forks
Licence
Créé
Dernier commit
Catégorie
Langue
bertgptlanguage-modelApache-2.0Rust
Voir sur GitHub
En termes simples

Entraînez et utilisez des outils avancés de traitement de texte rapidement et efficacement pour la recherche et la production.

Vous maintenez ce projet ?

Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.

Revendiquer cette page →
tokenizers — GitHub preview card
📈 Historique des étoiles
10.89k10.86k
2026-07-042026-08-31
📈 Suivez tokenizers

Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.

Gratuit · sans carte · désinscription à tout moment
Recevoir des alertes e-mail →
📄 À propos

💥 Tokenizers rapides à la pointe de la technologie optimisés pour la recherche et la production

tokenizers compte 10.9k étoiles sur GitHub. Il a été forké 1.1k fois. tokenizers est écrit principalement en Rust. Il est développé activement depuis 2019. tokenizers est disponible sous licence Apache-2.0. Ses principaux thèmes sont : bert, gpt, language-model, natural-language-processing.

Frequently asked questions

Qu'est-ce que tokenizers ?

💥 Tokenizers rapides à la pointe de la technologie optimisés pour la recherche et la production

tokenizers est-il open source ?

tokenizers est un projet open source. Il est distribué sous licence Apache-2.0.

tokenizers est-il gratuit ?

Oui. tokenizers est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.

Sous quelle licence est tokenizers ?

tokenizers est disponible sous licence Apache-2.0.

Dans quel langage tokenizers est-il écrit ?

tokenizers est écrit principalement en Rust.

🏅 Mainteneur de ce projet ?
olud.ai badge — tokenizers

Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.

[![olud.ai](https://olud.ai/badge.php?tool=huggingface-tokenizers)](https://olud.ai/project/huggingface-tokenizers.html)
Plus d'options de badge →
🧬 Partage son ADN avec🧬 Voir la cartographie ADN →

Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.