Startseite› Projekte› SepLLM
SepLLM
Python

SepLLM

[ICML 2025] "SepLLM: Beschleunigung großer Sprachmodelle durch Komprimierung eines Segments in einen Separator"

von HKUDS · GitHub
572
Sterne
48
Forks
2024
Erstellt
1 yr ago
Letzter Commit
inference-speed
Kategorie
Python
Sprache
inference-speedlarge-language-modelsllmsPython
Auf GitHub ansehen
In einfachen Worten

Beschleunigen Sie die Leistung großer KI-Modelle, indem Sie eine Methode verwenden, die Daten effizient komprimiert.

Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
SepLLM — GitHub preview card
📈 Sternhistorie
572571
2026-07-202026-08-31
📈 SepLLM verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

[ICML 2025] "SepLLM: Beschleunigung großer Sprachmodelle durch Komprimierung eines Segments in einen Separator"

SepLLM hat 572 Sterne auf GitHub. Es wurde 48-mal geforkt. SepLLM ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. Die Hauptthemen sind: inference-speed, large-language-models, llms.

❓ Frequently asked questions

Was ist SepLLM?

[ICML 2025] "SepLLM: Beschleunigung großer Sprachmodelle durch Komprimierung eines Segments in einen Separator"

Ist SepLLM Open Source?

SepLLM ist ein Open-Source-Projekt.

Ist SepLLM kostenlos?

Ja. SepLLM ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

In welcher Sprache ist SepLLM geschrieben?

SepLLM ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — SepLLM

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=hkuds-sepllm)](https://olud.ai/project/hkuds-sepllm.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit
AutoAgent
"AutoAgent: Vollautomatisiertes und Null-Code-LLM-Agenten-Framework"
★ 9.8k · agent
teiltllms
free-ai-agents-resources
Kostenlose KI-Agenten-Ressourcen – Ihr All-in-One-Lernzentrum 2026
★ 953 · ai
teiltllms
llm
Greifen Sie über die Befehlszeile auf große Sprachmodelle zu
★ 12.4k · ai
teiltllms
WilmerAI
WilmerAI ist einer der ältesten semantischen Router für LLM. Es verwendet mehrschichtige Prompt…
★ 830 · ai
teiltllms
mlx-lm
Führen Sie LLMs mit MLX aus
★ 6.8k · llms
teiltllms
rag-all-in-one
🧠 Leitfaden zum Erstellen von RAG (Retrieval-Augmented Generation) Anwendungen
★ 338 · generative-ai
teiltllms
LARS
Eine Anwendung zum lokalen Ausführen von LLMs auf Ihrem Gerät, mit Ihren Dokumenten, die detail…
★ 637 · genai
teiltllms
Awesome-Self-Evolving-Agents
[Umfrage] Eine umfassende Umfrage zu selbstentwickelnden KI-Agenten: Ein neues Paradigma, das G…
★ 2.4k · agent
teiltllms
awesome-llm-apps
100+ KI-Agenten, Agentenfähigkeiten und RAG-Apps - Kostenlos und Open Source.
★ 135k · agents
teiltllms
attention_sinks
Erweitern Sie bestehende LLMs weit über die ursprüngliche Trainingslänge hinaus mit konstantem…
★ 735 · llm
teiltllms

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.