Home› Progetti› LayerSkip
LayerSkip
Python

LayerSkip

Codice per "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024

di facebookresearch · GitHub
371
Stelle
45
Fork
2024
Creato
4 mo ago
Ultimo commit
early-exit
Categoria
Python
Lingua
early-exitlayer-dropllmPython
Visualizza su GitHub
In parole semplici

Implementa tecniche di inferenza di uscita anticipata e decodifica auto-speculativa nei modelli linguistici per migliorare le prestazioni.

Mantieni questo progetto?

Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.

Rivendica questa pagina →
LayerSkip — GitHub preview card
📈 Storia delle stelle
372371
2026-07-202026-08-31
📈 Segui LayerSkip

Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.

Gratis · senza carta · disdici quando vuoi
Ricevi avvisi via email →
📄 Informazioni

Codice per "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024

LayerSkip ha 371 stelle su GitHub. È stato forkato 45 volte. LayerSkip è scritto principalmente in Python. È in sviluppo attivo dal 2024. I suoi temi principali sono: early-exit, layer-drop, llm, optimization.

❓ Frequently asked questions

Che cos'è LayerSkip?

Codice per "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024

LayerSkip è open source?

LayerSkip è un progetto open source.

LayerSkip è gratuito?

Sì. LayerSkip è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

In quale linguaggio è scritto LayerSkip?

LayerSkip è scritto principalmente in Python.

🏅 Manutentore di questo progetto?
olud.ai badge — LayerSkip

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![olud.ai](https://olud.ai/badge.php?tool=facebookresearch-layerskip)](https://olud.ai/project/facebookresearch-layerskip.html)
Altre opzioni di badge →
🧬 Condivide il DNA con🧬 Vedi la mappa del DNA →
optax
Optax è una libreria di elaborazione e ottimizzazione dei gradienti per JAX.
★ 2.3k · machine-learning
condivideoptimization
robotics_master
Master di Robotica Online
★ 350 · computer-vision
condivideoptimization
AFlow
🔥🔥🔥 ICLR 2025 Orale. Automazione della Generazione di Workflow Agentici.
★ 554 · agentic-workflow
condivideoptimization
model-based-diffusion
Implementazione ufficiale per il documento "Diffusione basata su modello per l'ottimizzazione d…
★ 339 · control
condivideoptimization
ECC
Il sistema di ottimizzazione delle prestazioni dell'agente. Competenze, istinti, memoria, sicur…
★ 245k · ai-agents
hermes-agent
L'agente che cresce con te
★ 238k · ai
AutoGPT
AutoGPT è la visione di un AI accessibile per tutti, da usare e su cui costruire. La nostra mis…
★ 187k · agentic-ai
ollama
Inizia a utilizzare Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma e altri modelli…
★ 18k · deepseek
firecrawl
L'API di contesto per cercare, estrarre e interagire con il web su larga scala. 🔥
★ 174k · ai
prompts.chat
f.k.a. Awesome ChatGPT Prompts. Condividi, scopri e raccogli prompt dalla comunità. Gratuito e…
★ 168k · ai

Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.