BigMoeOnEdge
Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
Run large AI models on any device by streaming data as needed, regardless of memory limits.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentRun MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
BigMoeOnEdge compte 840 étoiles sur GitHub. Il a été forké 92 fois. BigMoeOnEdge est écrit principalement en C++. Il est développé activement depuis 2026. BigMoeOnEdge est disponible sous licence Apache-2.0. Ses principaux thèmes sont : android, cpp, edge-ai, gemma.
Qu'est-ce que BigMoeOnEdge ?
Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.
BigMoeOnEdge est-il open source ?
BigMoeOnEdge est un projet open source. Il est distribué sous licence Apache-2.0.
BigMoeOnEdge est-il gratuit ?
Oui. BigMoeOnEdge est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
Sous quelle licence est BigMoeOnEdge ?
BigMoeOnEdge est disponible sous licence Apache-2.0.
Dans quel langage BigMoeOnEdge est-il écrit ?
BigMoeOnEdge est écrit principalement en C++.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/helldez-bigmoeonedge.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.