inferssd
Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
Run large AI models that exceed your computer's memory by streaming them from your SSD.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasRun models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
inferssd tiene 1.1k estrellas en GitHub. Se ha bifurcado 80 veces. inferssd está escrito principalmente en C++. Se desarrolla activamente desde 2026. inferssd está disponible bajo la licencia Apache-2.0. Sus temas principales son: apple-silicon, cuda, gguf, inference.
¿Qué es inferssd?
Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
¿inferssd es de código abierto?
inferssd es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿inferssd es gratis?
Sí. inferssd es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está inferssd?
inferssd está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito inferssd?
inferssd está escrito principalmente en C++.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/wici-ai-inferssd.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.