Inicio Proyectos tokenizers
tokenizers
Rust

tokenizers

💥 Tokenizadores de última generación rápidos optimizados para Investigación y Producción

por huggingface · GitHub
Estrellas
Ramas
Licencia
Creado
Último commit
Categoría
Lenguaje
bertgptlanguage-modelApache-2.0Rust
Ver en GitHub
En palabras simples

Entrena y utiliza herramientas avanzadas de procesamiento de texto de manera rápida y eficiente para investigación y producción.

¿Mantienes este proyecto?

Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.

Reivindicar esta pagina →
tokenizers — GitHub preview card
📈 Historial de estrellas
10.89k10.86k
2026-07-042026-08-31
📈 Sigue tokenizers

Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.

Gratis · sin tarjeta · cancela cuando quieras
Recibir alertas por email →
📄 Acerca de

💥 Tokenizadores de última generación rápidos optimizados para Investigación y Producción

tokenizers tiene 10.9k estrellas en GitHub. Se ha bifurcado 1.1k veces. tokenizers está escrito principalmente en Rust. Se desarrolla activamente desde 2019. tokenizers está disponible bajo la licencia Apache-2.0. Sus temas principales son: bert, gpt, language-model, natural-language-processing.

Frequently asked questions

¿Qué es tokenizers?

💥 Tokenizadores de última generación rápidos optimizados para Investigación y Producción

¿tokenizers es de código abierto?

tokenizers es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.

¿tokenizers es gratis?

Sí. tokenizers es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.

¿Bajo qué licencia está tokenizers?

tokenizers está disponible bajo la licencia Apache-2.0.

¿En qué lenguaje está escrito tokenizers?

tokenizers está escrito principalmente en Rust.

🏅 ¿Mantenedor de este proyecto?
olud.ai badge — tokenizers

Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.

[![olud.ai](https://olud.ai/badge.php?tool=huggingface-tokenizers)](https://olud.ai/project/huggingface-tokenizers.html)
Más opciones de distintivos →
🧬 Comparte ADN con🧬 Ver el mapa de ADN →

Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.