Inicio Proyectos tiktoken-rs
tiktoken-rs
Rust

tiktoken-rs

Biblioteca de tokenización lista para usar para trabajar con GPT y tiktoken

por zurawiki · GitHub
Estrellas
Ramas
Licencia
Creado
Último commit
Categoría
Lenguaje
bpeopenairustMITRust
Ver en GitHub
En palabras simples

Tokeniza texto para modelos de OpenAI para prepararlo para el procesamiento y conteo de tokens.

¿Mantienes este proyecto?

Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.

Reivindicar esta pagina →
tiktoken-rs — GitHub preview card
📈 Historial de estrellas
402401
2026-07-202026-08-31
📈 Sigue tiktoken-rs

Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.

Gratis · sin tarjeta · cancela cuando quieras
Recibir alertas por email →
📄 Acerca de

Biblioteca de tokenización lista para usar para trabajar con GPT y tiktoken

tiktoken-rs tiene 401 estrellas en GitHub. Se ha bifurcado 74 veces. tiktoken-rs está escrito principalmente en Rust. Se desarrolla activamente desde 2023. tiktoken-rs está disponible bajo la licencia MIT. Sus temas principales son: bpe, openai, rust, tokenizer.

Frequently asked questions

¿Qué es tiktoken-rs?

Biblioteca de tokenización lista para usar para trabajar con GPT y tiktoken

¿tiktoken-rs es de código abierto?

tiktoken-rs es un proyecto de código abierto. Se distribuye bajo la licencia MIT.

¿tiktoken-rs es gratis?

Sí. tiktoken-rs es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.

¿Bajo qué licencia está tiktoken-rs?

tiktoken-rs está disponible bajo la licencia MIT.

¿En qué lenguaje está escrito tiktoken-rs?

tiktoken-rs está escrito principalmente en Rust.

🏅 ¿Mantenedor de este proyecto?
olud.ai badge — tiktoken-rs

Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.

[![olud.ai](https://olud.ai/badge.php?tool=zurawiki-tiktoken-rs)](https://olud.ai/project/zurawiki-tiktoken-rs.html)
Más opciones de distintivos →
🧬 Comparte ADN con🧬 Ver el mapa de ADN →

Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.