Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
Run large AI models that exceed your computer's memory by streaming them from your SSD.
Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentRun models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
inferssd compte 1.1k étoiles sur GitHub. Il a été forké 80 fois. inferssd est écrit principalement en C++. Il est développé activement depuis 2026. inferssd est disponible sous licence Apache-2.0. Ses principaux thèmes sont : apple-silicon, cuda, gguf, inference.
Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
inferssd est un projet open source. Il est distribué sous licence Apache-2.0.
Oui. inferssd est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.
inferssd est disponible sous licence Apache-2.0.
inferssd est écrit principalement en C++.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/wici-ai-inferssd.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.