Ollama

Esegui LLM open localmente con un comando

Cos'è Ollama?

Ollama è un runtime locale leggero che scarica ed esegue modelli a peso aperto con un singolo comando ed espone un'API REST compatibile con OpenAI sulla tua macchina.

Perché le persone scelgono Ollama

• Download di modelli con un comando e la più grande libreria di modelli
• API REST standard a cui si collegano dozzine di strumenti
• Eccellente prestazione su Apple Silicon e basso overhead

Ollama a colpo d'occhio

Alternative open-source a Ollama

Altri strumenti open-source per eseguire LLM localmente da confrontare:

LM StudioSfoglia, scarica e chatta con modelli localiJanApp desktop in stile ChatGPT open-source e offlineGPT4AllAI locale privata che gira su CPUllama.cppIl motore C/C++ che alimenta l'inferenza localeLocalAIUn'API OpenAI che ospiti autonomamenteText Generation WebUIInterfaccia web ricca di funzionalità per modelli localiKoboldCppEseguitore di modelli locali in un singolo fileMLC LLMEsegui LLM su qualsiasi dispositivo, anche telefonillamafileUn file eseguibile = modello + runtimeexoEsegui modelli grandi sui tuoi dispositivi quotidianiCortexRuntime in stile Ollama del team di JanNexa SDKEsegui qualsiasi modello su qualsiasi dispositivo — CPU, GPU, NPURamaLamaEsegui modelli come contenitori OCIGPUStackGestisci cluster GPU per eseguire modelli

Ollama testa a testa

FAQ