Home Progetti SageAttention
SageAttention

SageAttention

di thu-ml · GitHub

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention ottiene un'accelerazione di 2-5x rispetto a FlashAttention, senza perdere metriche end-to-end tra modelli di linguaggio, immagine e video.

Visualizza su GitHub
In parole semplici

Accelera l'elaborazione dei modelli AI senza perdere precisione utilizzando tecniche di attenzione efficienti nei tuoi progetti.

⭐ Stelle
🍴 Fork
📜 Licenza
Uso commerciale consentito
📅 Creato
🔄 Ultimo commit
🏷️ Categoria
💻 Lingua
Cuda
Mantieni questo progetto?

Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.

Rivendica questa pagina →
SageAttention — GitHub preview card
📈 Storia delle stelle
4k3k
2026-07-072026-07-29
📈 Segui SageAttention

Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.

Gratis · senza carta · disdici quando vuoi
Ricevi avvisi via email →
📄 Informazioni

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention ottiene un'accelerazione di 2-5x rispetto a FlashAttention, senza perdere metriche end-to-end tra modelli di linguaggio, immagine e video.

SageAttention ha 3.5k stelle su GitHub. È stato forkato 447 volte. SageAttention è scritto principalmente in Cuda. È in sviluppo attivo dal 2024. SageAttention è disponibile con licenza Apache-2.0. I suoi temi principali sono: attention, cuda, efficient-attention, inference-acceleration.

Frequently asked questions

Che cos'è SageAttention?

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention ottiene un'accelerazione di 2-5x rispetto a FlashAttention, senza perdere metriche end-to-end tra modelli di linguaggio, immagine e video.

SageAttention è open source?

SageAttention è un progetto open source. È rilasciato con licenza Apache-2.0.

SageAttention è gratuito?

Sì. SageAttention è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

Con quale licenza è SageAttention?

SageAttention è disponibile con licenza Apache-2.0.

In quale linguaggio è scritto SageAttention?

SageAttention è scritto principalmente in Cuda.

🏅 Manutentore di questo progetto?
olud.ai badge — SageAttention

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![olud.ai](https://olud.ai/badge.php?tool=thu-ml-sageattention)](https://olud.ai/project/thu-ml-sageattention.html)
Altre opzioni di badge →
🧬 Progetti correlati🧬 Vedi la mappa del DNA →