MLC LLM

Executar LLMs em qualquer dispositivo, até mesmo em telefones
Executar LLMs localmenteImplantação universal de LLMApache-2.0Executa localmentePython / C++Avançado
🛡 Avisos de segurança publicados
Um número alto geralmente significa que o projeto é amplamente examinado. Um número baixo geralmente significa que ele é pouco examinado — não que seja seguro.
Nenhum sinal de atividade pública para esta ferramenta — ela não possui um repositório aberto que possamos medir.
OSAI Pulse ⓘ ★★★★★★★★★★ /100 sinais rastreados
🐳 pulls do Docker 📦 downloads do PyPI / mês 📦 downloads do npm / mês 🚀 Última versão ·
Visitar site →Ver no GitHub

O que é o MLC LLM?

MLC LLM compila e executa LLMs nativamente em GPUs, navegadores e dispositivos móveis usando compilação de aprendizado de máquina para inferência local acelerada por hardware.

Por que as pessoas escolhem o MLC LLM

MLC LLM em um relance

CategoriaExecutar LLMs localmente
TipoImplantação universal de LLM
LicençaApache-2.0
Executa localmenteSim
Construído comPython / C++
Nível de habilidadeAvançado
Melhor paraexecutando modelos em telefones e na web

Alternativas de código aberto ao MLC LLM

Outras ferramentas de código aberto para executar LLMs localmente que valem a pena comparar:

OllamaExecutar LLMs abertos localmente com um comandoLM StudioNavegar, baixar e conversar com modelos locaisJanAplicativo de desktop estilo ChatGPT, offline e de código abertoGPT4AllIA local privada que roda em CPUllama.cppO motor C/C++ que alimenta a inferência localLocalAIUma API OpenAI que você hospedaText Generation WebUIInterface web rica em recursos para modelos locaisKoboldCppExecutor de modelo local em um único arquivollamafileUm arquivo executável = modelo + tempo de execuçãoexoExecute grandes modelos em seus dispositivos do dia a diaCortexTempo de execução estilo Ollama da equipe JanNexa SDKExecute qualquer modelo em qualquer dispositivo — CPU, GPU, NPURamaLamaExecute modelos como contêineres OCIGPUStackGerencie clusters de GPU para executar modelos

MLC LLM em comparação

MLC LLM vs OllamaMLC LLM vs LM StudioMLC LLM vs JanMLC LLM vs GPT4AllMLC LLM vs llama.cppMLC LLM vs LocalAIMLC LLM vs Text Generation WebUIMLC LLM vs KoboldCppMLC LLM vs llamafileMLC LLM vs exoMLC LLM vs CortexMLC LLM vs Nexa SDKMLC LLM vs RamaLamaMLC LLM vs GPUStack

FAQ

MLC LLM é gratuito?

MLC LLM é gratuito e de código aberto (licença Apache-2.0), então você pode usar, auto-hospedar e modificar sem custo.

Posso rodar o MLC LLM localmente?

Sim. O MLC LLM é projetado para rodar na sua própria máquina ou servidor, mantendo seus dados privados.

Qual é a melhor alternativa ao MLC LLM?

Alternativas populares de código aberto incluem Ollama, LM Studio, Jan. Veja as comparações acima para escolher.

Explore mais IA de código aberto

Navegue pelo diretório completo de ferramentas, modelos e projetos de IA de código aberto — atualizado diariamente.

Navegue por todas as ferramentas →