Startseite› Projekte› tokenspeed
tokenspeed
Python

tokenspeed

TokenSpeed ist eine Lichtgeschwindigkeit LLM-Inferenz-Engine.

von lightseekorg · GitHub
2k
Sterne
265
Forks
+137 diese Woche
Trendend
MIT
Lizenz
2026
Erstellt
today
Letzter Commit
b200
Kategorie
Python
Sprache
b200b300blackwellMITPython
Auf GitHub ansehen
In einfachen Worten

Führen Sie große Sprachmodelle schnell und effizient für Aufgaben aus, die Echtzeitantworten erfordern.

Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
tokenspeed — GitHub preview card
📈 Sternhistorie
2.0k1.6k
2026-07-202026-08-31
📈 tokenspeed verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

TokenSpeed ist eine Lichtgeschwindigkeit LLM-Inferenz-Engine.

tokenspeed hat 2k Sterne auf GitHub. Es wurde 265-mal geforkt. tokenspeed ist hauptsächlich in Python geschrieben. Es wird seit 2026 aktiv entwickelt. tokenspeed ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: b200, b300, blackwell, deepseek.

❓ Frequently asked questions

Was ist tokenspeed?

TokenSpeed ist eine Lichtgeschwindigkeit LLM-Inferenz-Engine.

Ist tokenspeed Open Source?

tokenspeed ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.

Ist tokenspeed kostenlos?

Ja. tokenspeed ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht tokenspeed?

tokenspeed ist unter der MIT-Lizenz verfügbar.

In welcher Sprache ist tokenspeed geschrieben?

tokenspeed ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — tokenspeed

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=lightseekorg-tokenspeed)](https://olud.ai/project/lightseekorg-tokenspeed.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
InferenceX
Open Source Continuous Inference Benchmark Research Platform — Kimi K3 2.8T, MiniMax M3, DeepSe…
★ 1.6k · ai
teiltgb200gb300
sglang
SGLang ist ein leistungsstarkes Serving-Framework für große Sprachmodelle und multimodale Model…
★ 32.9k · attention
teiltblackwellgpt-oss
parallax
Parallax ist ein verteiltes Modellservierungs-Framework, mit dem Sie Ihr eigenes AI-Cluster übe…
★ 1.4k · blackwell
teiltblackwellminimax
ollama
Starten Sie mit Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma und anderen Modelle…
★ 18k · deepseek
teiltgpt-ossminimax
vllm
Eine hochdurchsatz- und speichereffiziente Inferenz- und Bereitstellungs-Engine für LLMs
★ 90.5k · amd
TensorRT-LLM
TensorRT LLM bietet Benutzern eine benutzerfreundliche Python-API zum Definieren von großen Spr…
★ 14.5k · blackwell
openlake
OpenLake ist eine leistungsstarke Speicher-Engine für effiziente LLM-Inferenz und GPU-Training
★ 2.3k · blackwell
transformers
🤗 Transformers: das Modelldefinitions-Framework für modernste Machine Learning Modelle in Text,…
★ 165k · audio
JavaGuide
Java 面试 & 后端通用面试指南，覆盖计算机基础、数据库、分布式、高并发、系统设计与 AI 应用开发
★ 157k · agent
dify
Erstellen Sie Agentic-Workflows, RAG-Pipelines, mit umfangreicher Unterstützung für KI-Modelle…
★ 154k · agent

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.