tokenization

7 proyectos comparten este topic de GitHub

Las líneas conectan a los miembros que están mediblemente relacionados entre sí. El tamaño de los puntos refleja las estrellas.

🧬 Miembros

spaCy

💫 Industrial-strength Natural Language Processing (NLP) in Python

★ 33.8k

toon

🎒 Token-Oriented Object Notation (TOON) – compact, human-readable serialization of JSON data for LLM…

★ 25k

gigatoken

Language model tokenization at GB/s

★ 3.8k

tokencost

Easy token price estimates for 400+ LLMs. TokenOps.

★ 2k

llms-from-scratch

Build a ChatGPT like LLM from scratch in PyTorch, explained step by step.

★ 377

OmniTokenizer

[NeurIPS 2024]OmniTokenizer: one model and one weight for image-video joint tokenization.

★ 325

NoPII

Ready-to-run examples showing NoPII PII protection with OpenAI, Anthropic, LangChain, LlamaIndex, and more

★ 66 · GitHub ↗

Medido a partir de los temas de GitHub compartidos por ambos proyectos, ponderado por cuán raros son cada uno de los temas.