OnnxStream
Leichte Inferenzbibliothek für ONNX-Dateien, geschrieben in C++. Sie kann Stable Diffusion XL 1.0 auf einem RPI Zero 2 (oder mit 298 MB RAM) ausführen, aber auch Mistral 7B auf Desktops und Servern. ARM, x86, WASM, RISC-V unterstützt. Beschleunigt durch XNNPACK. Python, C# und JS(WASM)
Führen Sie KI-Modelle wie Stable Diffusion auf verschiedenen Geräten mit einer leichtgewichtigen Bibliothek aus.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarLeichte Inferenzbibliothek für ONNX-Dateien, geschrieben in C++. Sie kann Stable Diffusion XL 1.0 auf einem RPI Zero 2 (oder mit 298 MB RAM) ausführen, aber auch Mistral 7B auf Desktops und Servern. ARM, x86, WASM, RISC-V unterstützt. Beschleunigt durch XNNPACK. Python, C# und JS(WASM)
OnnxStream hat 2.1k Sterne auf GitHub. Es wurde 97-mal geforkt. OnnxStream ist hauptsächlich in C++ geschrieben. Es wird seit 2023 aktiv entwickelt. Die Hauptthemen sind: llama, machine-learning, mistral, onnx.
Was ist OnnxStream?
Leichte Inferenzbibliothek für ONNX-Dateien, geschrieben in C++. Sie kann Stable Diffusion XL 1.0 auf einem RPI Zero 2 (oder mit 298 MB RAM) ausführen, aber auch Mistral 7B auf Desktops und Servern. ARM, x86, WASM, RISC-V unterstützt. Beschleunigt durch XNNPACK. Python, C# und JS(WASM)
Ist OnnxStream Open Source?
OnnxStream ist ein Open-Source-Projekt.
Ist OnnxStream kostenlos?
Ja. OnnxStream ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
In welcher Sprache ist OnnxStream geschrieben?
OnnxStream ist hauptsächlich in C++ geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/vitoplantamura-onnxstream.html)
