Text Generation WebUI (oobabooga) est une interface web Gradio complète pour exécuter des modèles locaux sur de nombreux backends et formats, avec des extensions et des points d'ancrage pour le fine-tuning.
| Catégorie | Exécuter des LLM localement |
| Type | Interface Web |
| Licence | AGPL-3.0 |
| S'exécute localement | Oui |
| Construit avec | Python |
| Niveau de compétence | Intermédiaire |
| Meilleur pour | utilisateurs avancés qui veulent un maximum de réglages et de formats |
Autres outils open-source pour exécuter des LLM localement qui valent la peine d'être comparés :
OllamaExécuter des LLM open-source localement avec une seule commande
JanApplication de bureau de style ChatGPT open-source et hors ligne
GPT4AllIA locale privée qui s'exécute sur CPU
llama.cppLe moteur C/C++ alimentant l'inférence locale
LocalAIUne API OpenAI à auto-héberger
KoboldCppExécuteur de modèle local en un seul fichier
MLC LLMExécuter des LLM sur n'importe quel appareil, même les téléphones
llamafileUn fichier exécutable = modèle + runtime
exoExécutez de grands modèles sur vos appareils quotidiens
CortexRuntime de style Ollama de l'équipe Jan
Nexa SDKExécutez n'importe quel modèle sur n'importe quel appareil — CPU, GPU, NPU
RamaLamaExécutez des modèles en tant que conteneurs OCI
GPUStackGérez des clusters GPU pour exécuter des modèlesText Generation WebUI est gratuit et open-source (licence AGPL-3.0), vous pouvez l'utiliser, l'héberger vous-même et le modifier sans frais.
Oui. Text Generation WebUI est conçu pour fonctionner sur votre propre machine ou serveur, gardant vos données privées.
Les alternatives open-source populaires incluent Ollama, LM Studio, Jan. Consultez les comparaisons ci-dessus pour choisir.
Parcourez le répertoire complet des outils, modèles et projets d'IA open-source — mis à jour quotidiennement.
Parcourez tous les outils →