KoboldCpp

Einzeldatei-Läufer für lokale Modelle
LLMs lokal ausführenLokale Laufzeit (eine Datei)AGPL-3.0Läuft lokalC++Anfänger
🛡 Veröffentlichte Sicherheitsmeldungen
Eine hohe Anzahl bedeutet normalerweise, dass das Projekt intensiv untersucht wird. Eine niedrige Anzahl bedeutet normalerweise, dass es wenig untersucht wird — nicht, dass es sicher ist.
Keine öffentlichen Aktivitätssignale für dieses Tool — es hat kein offenes Repository, das wir messen können.
OSAI Pulse ⓘ ★★★★★★★★★★ /100 verfolgte Signale
🐳 Docker-Pulls 📦 PyPI-Downloads / Monat 📦 npm-Downloads / Monat 🚀 Neueste Version ·
Website besuchen →Auf GitHub ansehen

Was ist KoboldCpp?

KoboldCpp ist eine einfache, eigenständige Möglichkeit, GGUF-Modelle lokal mit einer integrierten Benutzeroberfläche, starken Sampler-Steuerungen und Unterstützung für Text, Bild und Sprache auszuführen.

Warum wählen die Leute KoboldCpp?

KoboldCpp auf einen Blick

KategorieLLMs lokal ausführen
TypLokale Laufzeit (eine Datei)
LizenzAGPL-3.0
Läuft lokalJa
Hergestellt mitC++
FähigkeitsstufeAnfänger
Am besten fürEin-Datei lokale Inferenz mit einer UI

Open-Source-Alternativen zu KoboldCpp

Andere Open-Source-Tools zum lokalen Ausführen von LLMs, die einen Vergleich wert sind:

OllamaFühren Sie offene LLMs lokal mit einem Befehl ausLM StudioDurchsuchen, Herunterladen und Chatten mit lokalen ModellenJanOpen-Source, offline ChatGPT-ähnliche Desktop-AppGPT4AllPrivate lokale KI, die auf CPU läuftllama.cppDie C/C++-Engine, die lokale Inferenz antreibtLocalAIEine OpenAI-API, die Sie selbst hostenText Generation WebUIFunktionsreiche Web-UI für lokale ModelleMLC LLMLLMs auf jedem Gerät ausführen, sogar auf HandysllamafileEine ausführbare Datei = Modell + LaufzeitexoFühren Sie große Modelle auf Ihren Alltagsgeräten ausCortexOllama-Stil Laufzeit vom Jan-TeamNexa SDKFühren Sie jedes Modell auf jedem Gerät aus — CPU, GPU, NPURamaLamaFühren Sie Modelle als OCI-Container ausGPUStackVerwalten Sie GPU-Cluster zum Ausführen von Modellen

KoboldCpp im direkten Vergleich

KoboldCpp vs OllamaKoboldCpp vs LM StudioKoboldCpp vs JanKoboldCpp vs GPT4AllKoboldCpp vs llama.cppKoboldCpp vs LocalAIKoboldCpp vs Text Generation WebUIKoboldCpp vs MLC LLMKoboldCpp vs llamafileKoboldCpp vs exoKoboldCpp vs CortexKoboldCpp vs Nexa SDKKoboldCpp vs RamaLamaKoboldCpp vs GPUStack

Häufig gestellte Fragen

Ist KoboldCpp kostenlos?

KoboldCpp ist kostenlos und Open-Source (AGPL-3.0 Lizenz), sodass Sie es kostenlos nutzen, selbst hosten und modifizieren können.

Kann ich KoboldCpp lokal ausführen?

Ja. KoboldCpp ist dafür ausgelegt, auf Ihrem eigenen Computer oder Server zu laufen und Ihre Daten privat zu halten.

Was ist die beste Alternative zu KoboldCpp?

Beliebte Open-Source-Alternativen sind Ollama, LM Studio, Jan. Sehen Sie sich die Vergleiche oben an, um zu wählen.

Entdecken Sie weitere Open-Source-AI

Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.

Alle Tools durchsuchen →