inferssd
Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
Run large AI models that exceed your computer's memory by streaming them from your SSD.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiRun models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
inferssd ha 1.1k stelle su GitHub. È stato forkato 80 volte. inferssd è scritto principalmente in C++. È in sviluppo attivo dal 2026. inferssd è disponibile con licenza Apache-2.0. I suoi temi principali sono: apple-silicon, cuda, gguf, inference.
Che cos'è inferssd?
Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
inferssd è open source?
inferssd è un progetto open source. È rilasciato con licenza Apache-2.0.
inferssd è gratuito?
Sì. inferssd è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è inferssd?
inferssd è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto inferssd?
inferssd è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/wici-ai-inferssd.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.