LocalAI

Une API OpenAI à auto-héberger

Qu'est-ce que LocalAI ?

LocalAI est une API auto-hébergée, compatible avec OpenAI, qui exécute des LLM, des modèles d'image et audio dans des conteneurs, conçue pour que le même code client pointe vers des modèles locaux ou hébergés.

Pourquoi les gens choisissent LocalAI

• Remplacement de l'API OpenAI prêt à l'emploi pour la parité dev-prod
• Multi-modal : texte, image et audio sur un seul serveur
• Déploiement natif de conteneur, compatible avec Kubernetes

LocalAI en un coup d'œil

Alternatives open-source à LocalAI

Autres outils open-source pour exécuter des LLM localement qui valent la peine d'être comparés :

OllamaExécuter des LLM open-source localement avec une seule commandeLM StudioParcourir, télécharger et discuter avec des modèles locauxJanApplication de bureau de style ChatGPT open-source et hors ligneGPT4AllIA locale privée qui s'exécute sur CPUllama.cppLe moteur C/C++ alimentant l'inférence localeText Generation WebUIInterface web riche en fonctionnalités pour les modèles locauxKoboldCppExécuteur de modèle local en un seul fichierMLC LLMExécuter des LLM sur n'importe quel appareil, même les téléphonesllamafileUn fichier exécutable = modèle + runtimeexoExécutez de grands modèles sur vos appareils quotidiensCortexRuntime de style Ollama de l'équipe JanNexa SDKExécutez n'importe quel modèle sur n'importe quel appareil — CPU, GPU, NPURamaLamaExécutez des modèles en tant que conteneurs OCIGPUStackGérez des clusters GPU pour exécuter des modèles

LocalAI en tête-à-tête

FAQ