KoboldCpp

Exécuteur de modèle local en un seul fichier
Exécuter des LLM localementExécution locale (fichier unique)AGPL-3.0S'exécute localementC++Débutant
🛡 Avis de sécurité publiés
Un nombre élevé signifie généralement que le projet est fortement examiné. Un nombre faible signifie généralement qu'il est peu examiné — pas qu'il soit sûr.
Aucun signal d'activité publique pour cet outil — il n'a pas de dépôt ouvert que nous pouvons mesurer.
OSAI Pulse ⓘ ★★★★★★★★★★ /100 signaux suivis
🐳 téléchargements Docker 📦 téléchargements PyPI / mois 📦 téléchargements npm / mois 🚀 Dernière version ·
Visitez le site →Voir sur GitHub

Qu'est-ce que KoboldCpp ?

KoboldCpp est un moyen simple et exécutable unique de faire fonctionner des modèles GGUF localement avec une interface utilisateur intégrée, de solides contrôles d'échantillonnage et un support pour le texte, l'image et la voix.

Pourquoi les gens choisissent KoboldCpp

KoboldCpp en un coup d'œil

CatégorieExécuter des LLM localement
TypeExécution locale (fichier unique)
LicenceAGPL-3.0
S'exécute localementOui
Construit avecC++
Niveau de compétenceDébutant
Meilleur pourinférence locale en un fichier avec une interface utilisateur

Alternatives open-source à KoboldCpp

Autres outils open-source pour exécuter des LLM localement qui valent la peine d'être comparés :

OllamaExécuter des LLM open-source localement avec une seule commandeLM StudioParcourir, télécharger et discuter avec des modèles locauxJanApplication de bureau de style ChatGPT open-source et hors ligneGPT4AllIA locale privée qui s'exécute sur CPUllama.cppLe moteur C/C++ alimentant l'inférence localeLocalAIUne API OpenAI à auto-hébergerText Generation WebUIInterface web riche en fonctionnalités pour les modèles locauxMLC LLMExécuter des LLM sur n'importe quel appareil, même les téléphonesllamafileUn fichier exécutable = modèle + runtimeexoExécutez de grands modèles sur vos appareils quotidiensCortexRuntime de style Ollama de l'équipe JanNexa SDKExécutez n'importe quel modèle sur n'importe quel appareil — CPU, GPU, NPURamaLamaExécutez des modèles en tant que conteneurs OCIGPUStackGérez des clusters GPU pour exécuter des modèles

KoboldCpp en tête-à-tête

KoboldCpp vs OllamaKoboldCpp vs LM StudioKoboldCpp vs JanKoboldCpp vs GPT4AllKoboldCpp vs llama.cppKoboldCpp vs LocalAIKoboldCpp vs Text Generation WebUIKoboldCpp vs MLC LLMKoboldCpp vs llamafileKoboldCpp vs exoKoboldCpp vs CortexKoboldCpp vs Nexa SDKKoboldCpp vs RamaLamaKoboldCpp vs GPUStack

FAQ

KoboldCpp est-il gratuit ?

KoboldCpp est gratuit et open-source (licence AGPL-3.0), vous pouvez donc l'utiliser, l'héberger vous-même et le modifier sans frais.

Puis-je exécuter KoboldCpp localement ?

Oui. KoboldCpp est conçu pour fonctionner sur votre propre machine ou serveur, gardant vos données privées.

Quelle est la meilleure alternative à KoboldCpp ?

Les alternatives open-source populaires incluent Ollama, LM Studio, Jan. Consultez les comparaisons ci-dessus pour choisir.

Explorez plus d'IA open-source

Parcourez le répertoire complet des outils, modèles et projets d'IA open-source — mis à jour quotidiennement.

Parcourez tous les outils →