Accueil Projets tokenizers
tokenizers

tokenizers

par huggingface · GitHub

💥 Tokenizers rapides à la pointe de la technologie optimisés pour la recherche et la production

Voir sur GitHub
En termes simples

Entraînez et utilisez des outils avancés de traitement de texte rapidement et efficacement pour la recherche et la production.

⭐ Étoiles
🍴 Forks
🔥 Tendances
📜 Licence
Utilisation commerciale autorisée
📅 Créé
🔄 Dernier commit
🏷️ Catégorie
💻 Langue
Vous maintenez ce projet ?

Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.

Revendiquer cette page →
tokenizers — GitHub preview card
📈 Historique des étoiles
10.93k10.86k
2026-07-042026-07-29
📈 Suivez tokenizers

Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.

Gratuit · sans carte · désinscription à tout moment
Recevoir des alertes e-mail →
📄 À propos

💥 Tokenizers rapides à la pointe de la technologie optimisés pour la recherche et la production

tokenizers compte 10.9k étoiles sur GitHub. Il a été forké 1.2k fois. tokenizers est écrit principalement en Rust. Il est développé activement depuis 2019. tokenizers est disponible sous licence Apache-2.0. Ses principaux thèmes sont : bert, gpt, language-model, natural-language-processing.

Frequently asked questions

Qu'est-ce que tokenizers ?

💥 Tokenizers rapides à la pointe de la technologie optimisés pour la recherche et la production

tokenizers est-il open source ?

tokenizers est un projet open source. Il est distribué sous licence Apache-2.0.

tokenizers est-il gratuit ?

Oui. tokenizers est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.

Sous quelle licence est tokenizers ?

tokenizers est disponible sous licence Apache-2.0.

Dans quel langage tokenizers est-il écrit ?

tokenizers est écrit principalement en Rust.

🏅 Mainteneur de ce projet ?
OpenSourceAI badge — tokenizers

Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=huggingface-tokenizers)](https://opensourceai.tech/project/huggingface-tokenizers.html)
Plus d'options de badge →
🧬 Partage son ADN avec🧬 Voir la cartographie ADN →

Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.