inference-acceleration

4 projetos partilham este topic do GitHub

Linhas conectam membros que estão mensuravelmente relacionados entre si. O tamanho do ponto reflete estrelas.

🧬 Membros

SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention achieves speedup of 2-5x compared to…

★ 4k

TeaCache

Timestep Embedding Tells: It's Time to Cache for Video Diffusion Model

★ 1.4k

Locals

Run many AI agents at once on your Mac, up to 3x faster.

★ 356 · GitHub ↗

Awesome-Efficient-dLLMs

[EMNLP 2026] 📚 A curated list of Awesome Efficient dLLMs Papers with Codes

★ 150 · GitHub ↗

Medido a partir dos tópicos do GitHub compartilhados por ambos os projetos, ponderado pela raridade de cada tópico.