BigMoeOnEdge
Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
Run large AI models on any device by streaming data as needed, regardless of memory limits.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserRun MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
BigMoeOnEdge tem 840 estrelas no GitHub. Foi bifurcado 92 vezes. BigMoeOnEdge é escrito principalmente em C++. Está em desenvolvimento ativo desde 2026. BigMoeOnEdge está disponível sob a licença Apache-2.0. Os seus principais temas são: android, cpp, edge-ai, gemma.
O que é BigMoeOnEdge?
Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
BigMoeOnEdge é de código aberto?
BigMoeOnEdge é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
BigMoeOnEdge é gratuito?
Sim. BigMoeOnEdge é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está BigMoeOnEdge?
BigMoeOnEdge está disponível sob a licença Apache-2.0.
Em que linguagem BigMoeOnEdge está escrito?
BigMoeOnEdge é escrito principalmente em C++.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/helldez-bigmoeonedge.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.