inference-acceleration

4 Projekte teilen dieses GitHub-Topic

Linien verbinden Mitglieder, die messbar miteinander verwandt sind. Die Punktgröße spiegelt die Sterne wider.

🧬 Mitglieder

SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention achieves speedup of 2-5x compared to…

★ 4k

TeaCache

Timestep Embedding Tells: It's Time to Cache for Video Diffusion Model

★ 1.4k

Locals

Run many AI agents at once on your Mac, up to 3x faster.

★ 356 · GitHub ↗

Awesome-Efficient-dLLMs

[EMNLP 2026] 📚 A curated list of Awesome Efficient dLLMs Papers with Codes

★ 150 · GitHub ↗

Gemessen anhand der von beiden Projekten geteilten GitHub-Themen, gewichtet nach der Seltenheit jedes Themas.