Code pour "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
Implémentez des techniques d'inférence de sortie anticipée et de décodage auto-spéculatif dans les modèles de langage pour améliorer les performances.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentCode pour "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
LayerSkip compte 371 étoiles sur GitHub. Il a été forké 45 fois. LayerSkip est écrit principalement en Python. Il est développé activement depuis 2024. Ses principaux thèmes sont : early-exit, layer-drop, llm, optimization.
Code pour "LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding", ACL 2024
LayerSkip est un projet open source.
Oui. LayerSkip est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
LayerSkip est écrit principalement en Python.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/facebookresearch-layerskip.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.