Ollama

Ejecutar LLMs abiertos localmente con un solo comando

¿Qué es Ollama?

Ollama es un entorno de ejecución local ligero que descarga y ejecuta modelos de peso abierto con un solo comando y expone una API REST compatible con OpenAI en tu máquina.

Por qué la gente elige Ollama

• Descargas de modelos con un solo comando y la biblioteca de modelos más grande
• API REST estándar en la que se integran docenas de herramientas
• Excelente rendimiento en Apple Silicon y bajo consumo

Ollama en un vistazo

Alternativas de código abierto a Ollama

Otras herramientas de código abierto para ejecutar LLMs localmente que vale la pena comparar:

LM StudioExplorar, descargar y chatear con modelos localesJanAplicación de escritorio estilo ChatGPT de código abierto y sin conexiónGPT4AllIA local privada que se ejecuta en CPUllama.cppEl motor C/C++ que impulsa la inferencia localLocalAIUna API de OpenAI que autohospedasText Generation WebUIInterfaz web rica en funciones para modelos localesKoboldCppEjecutor de modelo local en un solo archivoMLC LLMEjecutar LLMs en cualquier dispositivo, incluso teléfonosllamafileUn archivo ejecutable = modelo + tiempo de ejecuciónexoEjecuta grandes modelos en tus dispositivos cotidianosCortexTiempo de ejecución estilo Ollama del equipo de JanNexa SDKEjecuta cualquier modelo en cualquier dispositivo — CPU, GPU, NPURamaLamaEjecuta modelos como contenedores OCIGPUStackGestiona clústeres de GPU para ejecutar modelos

Ollama cara a cara

Preguntas frecuentes