Accueil› Projets› inferssd
inferssd
C++

inferssd

Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.

par wici-ai · GitHub
Étoiles
Forks
Licence
Créé
Dernier commit
Catégorie
Langue
Probable
Auto-hébergeable
apple-siliconcudaggufApache-2.0C++Auto-hébergeable
Voir sur GitHub
En termes simples

Run large AI models that exceed your computer's memory by streaming them from your SSD.

Vous maintenez ce projet ?

Revendiquez sa page : indexée quel que soit son rang, traduite en six langues, et enrichie de vos propres mots.

Revendiquer cette page →
inferssd — GitHub preview card
📈 Historique des étoiles
1 0691 068
2026-11-142026-11-15
📈 Suivez inferssd

Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.

Gratuit · sans carte · désinscription à tout moment
Recevoir des alertes e-mail →
📄 À propos

Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.

inferssd compte 1.1k étoiles sur GitHub. Il a été forké 80 fois. inferssd est écrit principalement en C++. Il est développé activement depuis 2026. inferssd est disponible sous licence Apache-2.0. Ses principaux thèmes sont : apple-silicon, cuda, gguf, inference.

❓ Frequently asked questions

Qu'est-ce que inferssd ?

Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.

inferssd est-il open source ?

inferssd est un projet open source. Il est distribué sous licence Apache-2.0.

inferssd est-il gratuit ?

Oui. inferssd est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même.

Sous quelle licence est inferssd ?

inferssd est disponible sous licence Apache-2.0.

Dans quel langage inferssd est-il écrit ?

inferssd est écrit principalement en C++.

🏅 Mainteneur de ce projet ?
olud.ai badge — inferssd

Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.

[![olud.ai](https://olud.ai/badge.php?tool=wici-ai-inferssd)](https://olud.ai/project/wici-ai-inferssd.html)
Plus d'options de badge →
🧬 Partage son ADN avec🧬 Voir la cartographie ADN →

Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.