LocalAI

Una API de OpenAI que autohospedas

¿Qué es LocalAI?

LocalAI es una API autoalojada, compatible con OpenAI, que ejecuta LLMs, modelos de imagen y audio en contenedores, diseñada para que el mismo código del cliente apunte a modelos locales o alojados.

Por qué la gente elige LocalAI

• Reemplazo de API de OpenAI para paridad de desarrollo a producción
• Multi-modal: texto, imagen y audio en un solo servidor
• Despliegue nativo en contenedores, amigable con Kubernetes

LocalAI en un vistazo

Alternativas de código abierto a LocalAI

Otras herramientas de código abierto para ejecutar LLMs localmente que vale la pena comparar:

OllamaEjecutar LLMs abiertos localmente con un solo comandoLM StudioExplorar, descargar y chatear con modelos localesJanAplicación de escritorio estilo ChatGPT de código abierto y sin conexiónGPT4AllIA local privada que se ejecuta en CPUllama.cppEl motor C/C++ que impulsa la inferencia localText Generation WebUIInterfaz web rica en funciones para modelos localesKoboldCppEjecutor de modelo local en un solo archivoMLC LLMEjecutar LLMs en cualquier dispositivo, incluso teléfonosllamafileUn archivo ejecutable = modelo + tiempo de ejecuciónexoEjecuta grandes modelos en tus dispositivos cotidianosCortexTiempo de ejecución estilo Ollama del equipo de JanNexa SDKEjecuta cualquier modelo en cualquier dispositivo — CPU, GPU, NPURamaLamaEjecuta modelos como contenedores OCIGPUStackGestiona clústeres de GPU para ejecutar modelos

Comparativa de LocalAI

Preguntas frecuentes