JetStream
JetStream ist eine durchsatz- und speicherooptimierte Engine für LLM-Inferenz auf XLA-Geräten, beginnend mit TPUs (und GPUs in Zukunft -- PRs willkommen).
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarJetStream ist eine durchsatz- und speicherooptimierte Engine für LLM-Inferenz auf XLA-Geräten, beginnend mit TPUs (und GPUs in Zukunft -- PRs willkommen).
JetStream hat 451 Sterne auf GitHub. Es wurde 67-mal geforkt. JetStream ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. JetStream ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: gemma, gpt, gpu, inference.
Was ist JetStream?
JetStream ist eine durchsatz- und speicherooptimierte Engine für LLM-Inferenz auf XLA-Geräten, beginnend mit TPUs (und GPUs in Zukunft -- PRs willkommen).
Ist JetStream Open Source?
JetStream ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist JetStream kostenlos?
Ja. JetStream ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht JetStream?
JetStream ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist JetStream geschrieben?
JetStream ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/ai-hypercomputer-jetstream.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.