KoboldCpp

Eseguitore di modelli locali in un singolo file
Esegui LLM localmenteRuntime locale (file singolo)AGPL-3.0Esegue localmenteC++Principiante
🛡 Avvisi di sicurezza pubblicati
Un numero elevato di segnalazioni di solito significa che il progetto è ampiamente esaminato. Un numero basso di solito significa che è poco esaminato — non che sia sicuro.
Nessun segnale di attività pubblica per questo strumento — non ha un repository aperto che possiamo misurare.
OSAI Pulse ⓘ ★★★★★★★★★★ /100 segnali tracciati
🐳 download Docker 📦 download PyPI / mese 📦 download npm / mese 🚀 Ultima versione ·
Visita il sito →Visualizza su GitHub

Cos'è KoboldCpp?

KoboldCpp è un modo semplice e con un singolo eseguibile per eseguire modelli GGUF localmente con un'interfaccia utente integrata, forti controlli del campionatore e supporto per testo, immagini e voce.

Perché le persone scelgono KoboldCpp

KoboldCpp a colpo d'occhio

CategoriaEsegui LLM localmente
TipoRuntime locale (file singolo)
LicenzaAGPL-3.0
Esegue localmenteSì
Costruito conC++
Livello di abilitàPrincipiante
Migliore perinference locale in un file con un'interfaccia utente

Alternative open-source a KoboldCpp

Altri strumenti open-source per eseguire LLM localmente da confrontare:

OllamaEsegui LLM open localmente con un comandoLM StudioSfoglia, scarica e chatta con modelli localiJanApp desktop in stile ChatGPT open-source e offlineGPT4AllAI locale privata che gira su CPUllama.cppIl motore C/C++ che alimenta l'inferenza localeLocalAIUn'API OpenAI che ospiti autonomamenteText Generation WebUIInterfaccia web ricca di funzionalità per modelli localiMLC LLMEsegui LLM su qualsiasi dispositivo, anche telefonillamafileUn file eseguibile = modello + runtimeexoEsegui modelli grandi sui tuoi dispositivi quotidianiCortexRuntime in stile Ollama del team di JanNexa SDKEsegui qualsiasi modello su qualsiasi dispositivo — CPU, GPU, NPURamaLamaEsegui modelli come contenitori OCIGPUStackGestisci cluster GPU per eseguire modelli

KoboldCpp testa a testa

KoboldCpp vs OllamaKoboldCpp vs LM StudioKoboldCpp vs JanKoboldCpp vs GPT4AllKoboldCpp vs llama.cppKoboldCpp vs LocalAIKoboldCpp vs Text Generation WebUIKoboldCpp vs MLC LLMKoboldCpp vs llamafileKoboldCpp vs exoKoboldCpp vs CortexKoboldCpp vs Nexa SDKKoboldCpp vs RamaLamaKoboldCpp vs GPUStack

FAQ

KoboldCpp è gratuito?

KoboldCpp è gratuito e open-source (licenza AGPL-3.0), quindi puoi usarlo, ospitarlo autonomamente e modificarlo senza costi.

Posso eseguire KoboldCpp localmente?

Sì. KoboldCpp è progettato per essere eseguito sulla tua macchina o server, mantenendo i tuoi dati privati.

Qual è la migliore alternativa a KoboldCpp?

Le popolari alternative open-source includono Ollama, LM Studio, Jan. Vedi i confronti sopra per scegliere.

Esplora più AI open-source

Sfoglia l'intero elenco di strumenti, modelli e progetti AI open-source — aggiornato quotidianamente.

Sfoglia tutti gli strumenti →