Ollama ist eine leichte lokale Laufzeit, die offene Modelle mit einem einzigen Befehl herunterlädt und ausführt und eine OpenAI-kompatible REST-API auf Ihrem Rechner bereitstellt.
| Kategorie | LLMs lokal ausführen |
| Typ | Lokale Laufzeit (CLI) |
| Lizenz | MIT |
| Läuft lokal | Ja |
| Hergestellt mit | Go |
| Fähigkeitsstufe | Anfänger |
| Am besten für | Entwickler, die eine skriptbare lokale Modell-API wünschen |
Andere Open-Source-Tools zum lokalen Ausführen von LLMs, die einen Vergleich wert sind:
JanOpen-Source, offline ChatGPT-ähnliche Desktop-App
GPT4AllPrivate lokale KI, die auf CPU läuft
llama.cppDie C/C++-Engine, die lokale Inferenz antreibt
LocalAIEine OpenAI-API, die Sie selbst hosten
Text Generation WebUIFunktionsreiche Web-UI für lokale Modelle
KoboldCppEinzeldatei-Läufer für lokale Modelle
MLC LLMLLMs auf jedem Gerät ausführen, sogar auf Handys
llamafileEine ausführbare Datei = Modell + Laufzeit
exoFühren Sie große Modelle auf Ihren Alltagsgeräten aus
CortexOllama-Stil Laufzeit vom Jan-Team
Nexa SDKFühren Sie jedes Modell auf jedem Gerät aus — CPU, GPU, NPU
RamaLamaFühren Sie Modelle als OCI-Container aus
GPUStackVerwalten Sie GPU-Cluster zum Ausführen von ModellenOllama ist kostenlos und Open Source (MIT-Lizenz), sodass Sie es ohne Kosten verwenden, selbst hosten und modifizieren können.
Ja. Ollama ist dafür ausgelegt, auf Ihrem eigenen Rechner oder Server zu laufen und Ihre Daten privat zu halten.
Beliebte Open-Source-Alternativen sind LM Studio, Jan, GPT4All. Siehe die obenstehenden Vergleiche zur Auswahl.
Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.
Alle Tools durchsuchen →