OnnxStream
Biblioteca de inferencia ligera para archivos ONNX, escrita en C++. Puede ejecutar Stable Diffusion XL 1.0 en un RPI Zero 2 (o en 298MB de RAM) pero también Mistral 7B en escritorios y servidores. Soportado en ARM, x86, WASM, RISC-V. Acelerado por XNNPACK. Python, C# y JS(WASM)
Ejecuta modelos de IA como Stable Diffusion en varios dispositivos utilizando una biblioteca ligera.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasBiblioteca de inferencia ligera para archivos ONNX, escrita en C++. Puede ejecutar Stable Diffusion XL 1.0 en un RPI Zero 2 (o en 298MB de RAM) pero también Mistral 7B en escritorios y servidores. Soportado en ARM, x86, WASM, RISC-V. Acelerado por XNNPACK. Python, C# y JS(WASM)
OnnxStream tiene 2.1k estrellas en GitHub. Se ha bifurcado 97 veces. OnnxStream está escrito principalmente en C++. Se desarrolla activamente desde 2023. Sus temas principales son: llama, machine-learning, mistral, onnx.
¿Qué es OnnxStream?
Biblioteca de inferencia ligera para archivos ONNX, escrita en C++. Puede ejecutar Stable Diffusion XL 1.0 en un RPI Zero 2 (o en 298MB de RAM) pero también Mistral 7B en escritorios y servidores. Soportado en ARM, x86, WASM, RISC-V. Acelerado por XNNPACK. Python, C# y JS(WASM)
¿OnnxStream es de código abierto?
OnnxStream es un proyecto de código abierto.
¿OnnxStream es gratis?
Sí. OnnxStream es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿En qué lenguaje está escrito OnnxStream?
OnnxStream está escrito principalmente en C++.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/vitoplantamura-onnxstream.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.