OnnxStream
Biblioteca de inferência leve para arquivos ONNX, escrita em C++. Pode executar Stable Diffusion XL 1.0 em um RPI Zero 2 (ou em 298MB de RAM), mas também Mistral 7B em desktops e servidores. ARM, x86, WASM, RISC-V suportados. Acelerado por XNNPACK. Python, C# e JS(WASM)
Execute modelos de IA como Stable Diffusion em vários dispositivos usando uma biblioteca leve.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserBiblioteca de inferência leve para arquivos ONNX, escrita em C++. Pode executar Stable Diffusion XL 1.0 em um RPI Zero 2 (ou em 298MB de RAM), mas também Mistral 7B em desktops e servidores. ARM, x86, WASM, RISC-V suportados. Acelerado por XNNPACK. Python, C# e JS(WASM)
OnnxStream tem 2.1k estrelas no GitHub. Foi bifurcado 97 vezes. OnnxStream é escrito principalmente em C++. Está em desenvolvimento ativo desde 2023. Os seus principais temas são: llama, machine-learning, mistral, onnx.
O que é OnnxStream?
Biblioteca de inferência leve para arquivos ONNX, escrita em C++. Pode executar Stable Diffusion XL 1.0 em um RPI Zero 2 (ou em 298MB de RAM), mas também Mistral 7B em desktops e servidores. ARM, x86, WASM, RISC-V suportados. Acelerado por XNNPACK. Python, C# e JS(WASM)
OnnxStream é de código aberto?
OnnxStream é um projeto de código aberto.
OnnxStream é gratuito?
Sim. OnnxStream é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Em que linguagem OnnxStream está escrito?
OnnxStream é escrito principalmente em C++.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/vitoplantamura-onnxstream.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.