Startseite Projekte tokenizers
tokenizers

tokenizers

von huggingface · GitHub

💥 Schnelle, hochmoderne Tokenizer, optimiert für Forschung und Produktion

Auf GitHub ansehen
In einfachen Worten

Trainieren und nutzen Sie fortschrittliche Textverarbeitungstools schnell und effizient für Forschung und Produktion.

⭐ Sterne
🍴 Forks
🔥 Trendend
📜 Lizenz
Kommerzielle Nutzung erlaubt
📅 Erstellt
🔄 Letzter Commit
🏷️ Kategorie
💻 Sprache
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
tokenizers — GitHub preview card
📈 Sternhistorie
10.93k10.86k
2026-07-042026-07-29
📈 tokenizers verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

💥 Schnelle, hochmoderne Tokenizer, optimiert für Forschung und Produktion

tokenizers hat 10.9k Sterne auf GitHub. Es wurde 1.2k-mal geforkt. tokenizers ist hauptsächlich in Rust geschrieben. Es wird seit 2019 aktiv entwickelt. tokenizers ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: bert, gpt, language-model, natural-language-processing.

Frequently asked questions

Was ist tokenizers?

💥 Schnelle, hochmoderne Tokenizer, optimiert für Forschung und Produktion

Ist tokenizers Open Source?

tokenizers ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.

Ist tokenizers kostenlos?

Ja. tokenizers ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht tokenizers?

tokenizers ist unter der Apache-2.0-Lizenz verfügbar.

In welcher Sprache ist tokenizers geschrieben?

tokenizers ist hauptsächlich in Rust geschrieben.

🏅 Wartender dieses Projekts?
OpenSourceAI badge — tokenizers

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=huggingface-tokenizers)](https://opensourceai.tech/project/huggingface-tokenizers.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.