OnnxStream
Libreria di inferenza leggera per file ONNX, scritta in C++. Può eseguire Stable Diffusion XL 1.0 su un RPI Zero 2 (o in 298MB di RAM) ma anche Mistral 7B su desktop e server. Supportati ARM, x86, WASM, RISC-V. Accelerato da XNNPACK. Python, C# e JS(WASM)
Esegui modelli AI come Stable Diffusion su vari dispositivi utilizzando una libreria leggera.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiLibreria di inferenza leggera per file ONNX, scritta in C++. Può eseguire Stable Diffusion XL 1.0 su un RPI Zero 2 (o in 298MB di RAM) ma anche Mistral 7B su desktop e server. Supportati ARM, x86, WASM, RISC-V. Accelerato da XNNPACK. Python, C# e JS(WASM)
OnnxStream ha 2.1k stelle su GitHub. È stato forkato 97 volte. OnnxStream è scritto principalmente in C++. È in sviluppo attivo dal 2023. I suoi temi principali sono: llama, machine-learning, mistral, onnx.
Che cos'è OnnxStream?
Libreria di inferenza leggera per file ONNX, scritta in C++. Può eseguire Stable Diffusion XL 1.0 su un RPI Zero 2 (o in 298MB di RAM) ma anche Mistral 7B su desktop e server. Supportati ARM, x86, WASM, RISC-V. Accelerato da XNNPACK. Python, C# e JS(WASM)
OnnxStream è open source?
OnnxStream è un progetto open source.
OnnxStream è gratuito?
Sì. OnnxStream è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
In quale linguaggio è scritto OnnxStream?
OnnxStream è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/vitoplantamura-onnxstream.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.