Startseite› Projekte› KVCache-Factory
KVCache-Factory

KVCache-Factory

von Zefan-Cai · GitHub

Vereinheitlichte KV-Cache-Komprimierungsmethoden für auto-regressive Modelle.

# kv-cache# kv-cache-compression# llm
Auf GitHub ansehen
In einfachen Worten

Entdecken Sie verschiedene Methoden zur Komprimierung und Verwaltung von Daten für KI-Modelle in einer einzigen Schnittstelle.

⭐ Sterne
1.4k
🍴 Forks
178
🔥 Trendend
+1 diese Woche
📜 Lizenz
MIT
Kommerzielle Nutzung erlaubt
📅 Erstellt
2024
🔄 Letzter Commit
18 days ago
🏷️ Kategorie
kv-cache
💻 Sprache
Python
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
KVCache-Factory — GitHub preview card
📈 Sternhistorie
1.36k1.35k
2026-07-202026-07-29
📈 KVCache-Factory verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

Vereinheitlichte KV-Cache-Komprimierungsmethoden für auto-regressive Modelle.

KVCache-Factory hat 1.4k Sterne auf GitHub. Es wurde 178-mal geforkt. KVCache-Factory ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. KVCache-Factory ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: kv-cache, kv-cache-compression, llm.

❓ Frequently asked questions

Was ist KVCache-Factory?

Vereinheitlichte KV-Cache-Komprimierungsmethoden für auto-regressive Modelle.

Ist KVCache-Factory Open Source?

KVCache-Factory ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.

Ist KVCache-Factory kostenlos?

Ja. KVCache-Factory ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht KVCache-Factory?

KVCache-Factory ist unter der MIT-Lizenz verfügbar.

In welcher Sprache ist KVCache-Factory geschrieben?

KVCache-Factory ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — KVCache-Factory

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=zefan-cai-kvcache-factory)](https://olud.ai/project/zefan-cai-kvcache-factory.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
kvpress
LLM KV Cache-Kompression leicht gemacht
★ 1.1k · inference
teiltkv-cache-compressionkv-cache
LMCache
LMCache: Verbessern Sie Ihr LLM mit der schnellsten KV-Cache-Schicht
★ 10.9k · amd
Deepdive-llama3-from-scratch
Erreichen Sie den llama3-Inferenzschritt für Schritt, erfassen Sie die Kernkonzepte, meistern S…
★ 632 · attention
H2O
[NeurIPS'23] H2O: Heavy-Hitter Oracle für effiziente generative Inferenz großer Sprachmodelle.
★ 530 · gpt-3
KVSplit
Führen Sie größere LLMs mit längeren Kontexten auf Apple Silicon aus, indem Sie differenzierte…
★ 361 · apple-silicon
ECC
Das Agenten-Optimierungssystem für Leistung. Fähigkeiten, Instinkte, Gedächtnis, Sicherheit und…
★ 235k · ai-agents
hermes-agent
Der Agent, der mit Ihnen wächst
★ 222k · ai
AutoGPT
AutoGPT ist die Vision einer zugänglichen KI für alle, um sie zu nutzen und darauf aufzubauen.…
★ 186k · agentic-ai
ollama
Starten Sie mit Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma und anderen Modelle…
★ 177k · deepseek
prompts.chat
ehemals Awesome ChatGPT Prompts. Teilen, entdecken und sammeln Sie Eingabeaufforderungen aus de…
★ 166k · ai

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.