speculative-decoding

5 projets partagent ce topic GitHub

Les traits relient les membres réellement apparentés entre eux. La taille des points suit les étoiles.

🧬 Membres

EAGLE

Official Implementation of EAGLE-1 (ICML'24), EAGLE-2 (EMNLP'24), and EAGLE-3 (NeurIPS'25).

★ 2.5k

sonar

Large-scale LLM inference engine

★ 1.8k

AngelSlim

Model compression toolkit engineered for enhanced usability, comprehensiveness, and efficiency.

★ 1.6k

sndr_core_engine

SNDR Core Engine (Genesis) — vLLM runtime patch-overlay for Qwen3.6 + Gemma4 on consumer NVIDIA (Ampere…

★ 131

halofpx

Run Ornith, Qwen, Nemotron & DeepSeek optimized on AMD Strix Halo — unified OpenAI-compatible server with…

★ 41 · GitHub ↗

Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.