Startseite› Projekte› Star-Attention
Star-Attention

Star-Attention

von NVIDIA · GitHub

Effiziente LLM-Inferenz über lange Sequenzen

# attention-mechanism# large-language-models# llm-inference
Auf GitHub ansehen
⭐ Sterne
391
🍴 Forks
24
📜 Lizenz
Apache-2.0
Kommerzielle Nutzung erlaubt
📅 Erstellt
2024
🔄 Letzter Commit
1 yr ago
🏷️ Kategorie
attention-mechanism
💻 Sprache
Python
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
Star-Attention — GitHub preview card
📈 Sternhistorie
392391
2026-07-202026-07-29
📈 Star-Attention verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

Effiziente LLM-Inferenz über lange Sequenzen

Star-Attention hat 391 Sterne auf GitHub. Es wurde 24-mal geforkt. Star-Attention ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. Star-Attention ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: attention-mechanism, large-language-models, llm-inference.

❓ Frequently asked questions

Was ist Star-Attention?

Effiziente LLM-Inferenz über lange Sequenzen

Ist Star-Attention Open Source?

Star-Attention ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.

Ist Star-Attention kostenlos?

Ja. Star-Attention ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht Star-Attention?

Star-Attention ist unter der Apache-2.0-Lizenz verfügbar.

In welcher Sprache ist Star-Attention geschrieben?

Star-Attention ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
OpenSourceAI badge — Star-Attention

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=nvidia-star-attention)](https://opensourceai.tech/project/nvidia-star-attention.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
Medusa
Medusa: Einfaches Framework zur Beschleunigung der LLM-Generierung mit mehreren Decoding-Head.
★ 2.8k · llm
teiltllm-inference
x-transformers
Ein prägnanter, aber vollständiger Full-Attention-Transformer mit einer Reihe vielversprechende…
★ 5.9k · artificial-intelligence
teiltattention-mechanism
gpt4all
GPT4All: Führen Sie lokale LLMs auf jedem Gerät aus. Open-Source und für kommerzielle Nutzung v…
★ 77.4k · ai-chat
teiltllm-inference
reformer-pytorch
Reformer, der effiziente Transformer, in Pytorch
★ 2.2k · artificial-intelligence
teiltattention-mechanism
blast
Open-Source-VMs-als-Service
★ 778 · ai-agents
teiltllm-inference
EAGLE
Offizielle Implementierung von EAGLE-1 (ICML'24), EAGLE-2 (EMNLP'24) und EAGLE-3 (NeurIPS'25).
★ 2.5k · large-language-models
teiltllm-inference
PaLM-pytorch
Implementierung der spezifischen Transformer-Architektur von PaLM - Scaling Language Modeling w…
★ 825 · artificial-general-intelligence
teiltattention-mechanism
parti-pytorch
Implementierung von Parti, Googles rein auf Aufmerksamkeit basierendes Text-zu-Bild-neuronales…
★ 537 · artificial-intelligence
teiltattention-mechanism
lambda-networks
Implementierung von LambdaNetworks, einem neuen Ansatz zur Bilderkennung, der SOTA mit weniger…
★ 1.5k · artificial-intelligence
teiltattention-mechanism
alphafold2
Um letztendlich eine inoffizielle Pytorch-Implementierung / Replikation von Alphafold2 zu werde…
★ 1.6k · artificial-intelligence
teiltattention-mechanism

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.