MLC LLM

LLMs auf jedem Gerät ausführen, sogar auf Handys
LLMs lokal ausführenUniverselle LLM-BereitstellungApache-2.0Läuft lokalPython / C++Fortgeschritten
🛡 Veröffentlichte Sicherheitswarnungen
Eine hohe Anzahl bedeutet normalerweise, dass das Projekt intensiv geprüft wird. Eine niedrige Anzahl bedeutet normalerweise, dass es wenig geprüft wird — nicht, dass es sicher ist.
Keine öffentlichen Aktivitätssignale für dieses Tool — es hat kein offenes Repository, das wir messen können.
Olud Pulse ⓘ ★★★★★★★★★★ /100 verfolgte Signale
🐳 Docker-Pulls 📦 PyPI-Downloads / Monat 📦 npm-Downloads / Monat 🚀 Neueste Version ·
Website besuchen →Auf GitHub ansehen

Was ist MLC LLM?

MLC LLM kompiliert und führt LLMs nativ über GPUs, Browser und mobile Geräte aus, indem es maschinelles Lernen für hardwarebeschleunigte lokale Inferenz nutzt.

Warum wählen die Leute MLC LLM?

MLC LLM auf einen Blick

KategorieLLMs lokal ausführen
TypUniverselle LLM-Bereitstellung
LizenzApache-2.0
Läuft lokalJa
Hergestellt mitPython / C++
FähigkeitsstufeFortgeschritten
Am besten fürModelle auf Handys und im Web ausführen

Open-Source-Alternativen zu MLC LLM

Andere Open-Source-Tools zum lokalen Ausführen von LLMs, die einen Vergleich wert sind:

OllamaFühren Sie offene LLMs lokal mit einem Befehl ausLM StudioDurchsuchen, Herunterladen und Chatten mit lokalen ModellenJanOpen-Source, offline ChatGPT-ähnliche Desktop-AppGPT4AllPrivate lokale KI, die auf CPU läuftllama.cppDie C/C++-Engine, die lokale Inferenz antreibtLocalAIEine OpenAI-API, die Sie selbst hostenText Generation WebUIFunktionsreiche Web-UI für lokale ModelleKoboldCppEinzeldatei-Läufer für lokale ModellellamafileEine ausführbare Datei = Modell + LaufzeitexoFühren Sie große Modelle auf Ihren Alltagsgeräten ausCortexOllama-Stil Laufzeit vom Jan-TeamNexa SDKFühren Sie jedes Modell auf jedem Gerät aus — CPU, GPU, NPURamaLamaFühren Sie Modelle als OCI-Container ausGPUStackVerwalten Sie GPU-Cluster zum Ausführen von Modellen

MLC LLM im direkten Vergleich

MLC LLM vs OllamaMLC LLM vs LM StudioMLC LLM vs JanMLC LLM vs GPT4AllMLC LLM vs llama.cppMLC LLM vs LocalAIMLC LLM vs Text Generation WebUIMLC LLM vs KoboldCppMLC LLM vs llamafileMLC LLM vs exoMLC LLM vs CortexMLC LLM vs Nexa SDKMLC LLM vs RamaLamaMLC LLM vs GPUStack

Häufig gestellte Fragen

Ist MLC LLM kostenlos?

MLC LLM ist kostenlos und Open-Source (Apache-2.0 Lizenz), sodass Sie es kostenlos nutzen, selbst hosten und modifizieren können.

Kann ich MLC LLM lokal ausführen?

Ja. MLC LLM ist dafür ausgelegt, auf Ihrem eigenen Computer oder Server zu laufen und Ihre Daten privat zu halten.

Was ist die beste Alternative zu MLC LLM?

Beliebte Open-Source-Alternativen sind Ollama, LM Studio, Jan. Sehen Sie sich die Vergleiche oben an, um zu wählen.

Entdecken Sie weitere Open-Source-AI

Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.

Alle Tools durchsuchen →