LayerSkip
Código para "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
Implemente técnicas de inferência de saída antecipada e decodificação autoespeculativa em modelos de linguagem para melhorar o desempenho.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserCódigo para "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
LayerSkip tem 371 estrelas no GitHub. Foi bifurcado 45 vezes. LayerSkip é escrito principalmente em Python. Está em desenvolvimento ativo desde 2024. Os seus principais temas são: early-exit, layer-drop, llm, optimization.
O que é LayerSkip?
Código para "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
LayerSkip é de código aberto?
LayerSkip é um projeto de código aberto.
LayerSkip é gratuito?
Sim. LayerSkip é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Em que linguagem LayerSkip está escrito?
LayerSkip é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/facebookresearch-layerskip.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.