Startseite› Projekte› LayerSkip
LayerSkip
Python

LayerSkip

Code für "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024

von facebookresearch · GitHub
371
Sterne
45
Forks
2024
Erstellt
4 mo ago
Letzter Commit
early-exit
Kategorie
Python
Sprache
early-exitlayer-dropllmPython
Auf GitHub ansehen
In einfachen Worten

Implementieren Sie Techniken für frühe Ausstiegsinferenz und selbstspekulatives Decoding in Sprachmodellen, um die Leistung zu verbessern.

Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
LayerSkip — GitHub preview card
📈 Sternhistorie
372371
2026-07-202026-08-31
📈 LayerSkip verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

Code für "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024

LayerSkip hat 371 Sterne auf GitHub. Es wurde 45-mal geforkt. LayerSkip ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. Die Hauptthemen sind: early-exit, layer-drop, llm, optimization.

❓ Frequently asked questions

Was ist LayerSkip?

Code für "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024

Ist LayerSkip Open Source?

LayerSkip ist ein Open-Source-Projekt.

Ist LayerSkip kostenlos?

Ja. LayerSkip ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

In welcher Sprache ist LayerSkip geschrieben?

LayerSkip ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — LayerSkip

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=facebookresearch-layerskip)](https://olud.ai/project/facebookresearch-layerskip.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
optax
Optax ist eine Gradientverarbeitungs- und Optimierungsbibliothek für JAX.
★ 2.3k · machine-learning
teiltoptimization
robotics_master
Online Robotics Master
★ 350 · computer-vision
teiltoptimization
AFlow
🔥🔥🔥 ICLR 2025 Oral. Automatisierung der agentischen Workflow-Generierung.
★ 554 · agentic-workflow
teiltoptimization
model-based-diffusion
Offizielle Implementierung für das Papier "Modellbasierte Diffusion zur Trajektorienoptimierung…
★ 339 · control
teiltoptimization
ECC
Das Agenten-Optimierungssystem für Leistung. Fähigkeiten, Instinkte, Gedächtnis, Sicherheit und…
★ 245k · ai-agents
hermes-agent
Der Agent, der mit Ihnen wächst
★ 238k · ai
AutoGPT
AutoGPT ist die Vision einer zugänglichen KI für alle, um sie zu nutzen und darauf aufzubauen.…
★ 187k · agentic-ai
ollama
Starten Sie mit Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma und anderen Modelle…
★ 18k · deepseek
firecrawl
Die Kontext-API zum Suchen, Scrapen und Interagieren mit dem Web in großem Maßstab. 🔥
★ 174k · ai
prompts.chat
ehemals Awesome ChatGPT Prompts. Teilen, entdecken und sammeln Sie Eingabeaufforderungen aus de…
★ 168k · ai

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.