Text Generation WebUI (oobabooga) ist eine umfassende Gradio-Weboberfläche zum Ausführen lokaler Modelle über viele Backends und Formate hinweg, mit Erweiterungen und Feinabstimmungsmöglichkeiten.
| Kategorie | LLMs lokal ausführen |
| Typ | Web UI |
| Lizenz | AGPL-3.0 |
| Läuft lokal | Ja |
| Hergestellt mit | Python |
| Fähigkeitsstufe | Mittelstufe |
| Am besten für | Power-User, die maximale Steuerung und Formate wünschen |
Andere Open-Source-Tools zum lokalen Ausführen von LLMs, die einen Vergleich wert sind:
OllamaFühren Sie offene LLMs lokal mit einem Befehl aus
JanOpen-Source, offline ChatGPT-ähnliche Desktop-App
GPT4AllPrivate lokale KI, die auf CPU läuft
llama.cppDie C/C++-Engine, die lokale Inferenz antreibt
LocalAIEine OpenAI-API, die Sie selbst hosten
KoboldCppEinzeldatei-Läufer für lokale Modelle
MLC LLMLLMs auf jedem Gerät ausführen, sogar auf Handys
llamafileEine ausführbare Datei = Modell + Laufzeit
exoFühren Sie große Modelle auf Ihren Alltagsgeräten aus
CortexOllama-Stil Laufzeit vom Jan-Team
Nexa SDKFühren Sie jedes Modell auf jedem Gerät aus — CPU, GPU, NPU
RamaLamaFühren Sie Modelle als OCI-Container aus
GPUStackVerwalten Sie GPU-Cluster zum Ausführen von ModellenText Generation WebUI ist kostenlos und Open Source (AGPL-3.0-Lizenz), sodass Sie es ohne Kosten verwenden, selbst hosten und modifizieren können.
Ja. Text Generation WebUI ist so konzipiert, dass es auf Ihrem eigenen Computer oder Server läuft und Ihre Daten privat bleiben.
Beliebte Open-Source-Alternativen sind Ollama, LM Studio, Jan. Sehen Sie sich die Vergleiche oben an, um zu wählen.
Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.
Alle Tools durchsuchen →