Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
Run large AI models on any device by streaming data as needed, regardless of memory limits.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasRun MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
BigMoeOnEdge tiene 840 estrellas en GitHub. Se ha bifurcado 92 veces. BigMoeOnEdge está escrito principalmente en C++. Se desarrolla activamente desde 2026. BigMoeOnEdge está disponible bajo la licencia Apache-2.0. Sus temas principales son: android, cpp, edge-ai, gemma.
Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
BigMoeOnEdge es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
Sí. BigMoeOnEdge es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
BigMoeOnEdge está disponible bajo la licencia Apache-2.0.
BigMoeOnEdge está escrito principalmente en C++.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/helldez-bigmoeonedge.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.