LMCache
LMCache: Verbessern Sie Ihr LLM mit der schnellsten KV-Cache-Schicht
Beschleunigen Sie die Leistung großer Sprachmodelle mit einem spezialisierten Caching-System.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarLMCache: Verbessern Sie Ihr LLM mit der schnellsten KV-Cache-Schicht
LMCache hat 11.6k Sterne auf GitHub. Es wurde 1.8k-mal geforkt. LMCache ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. LMCache ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: amd, cuda, fast, inference.
Was ist LMCache?
LMCache: Verbessern Sie Ihr LLM mit der schnellsten KV-Cache-Schicht
Ist LMCache Open Source?
LMCache ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist LMCache kostenlos?
Ja. LMCache ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht LMCache?
LMCache ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist LMCache geschrieben?
LMCache ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/lmcache-lmcache.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.