Text Generation WebUI (oobabooga) è un'interfaccia web Gradio completa per eseguire modelli locali su molti backend e formati, con estensioni e ganci per il fine-tuning.
| Categoria | Esegui LLM localmente |
| Tipo | Interfaccia Web |
| Licenza | AGPL-3.0 |
| Esegue localmente | Sì |
| Costruito con | Python |
| Livello di abilità | Intermedio |
| Migliore per | utenti esperti che vogliono il massimo controllo e formati |
Altri strumenti open-source per eseguire LLM localmente da confrontare:
OllamaEsegui LLM open localmente con un comando
JanApp desktop in stile ChatGPT open-source e offline
GPT4AllAI locale privata che gira su CPU
llama.cppIl motore C/C++ che alimenta l'inferenza locale
LocalAIUn'API OpenAI che ospiti autonomamente
KoboldCppEseguitore di modelli locali in un singolo file
MLC LLMEsegui LLM su qualsiasi dispositivo, anche telefoni
llamafileUn file eseguibile = modello + runtime
exoEsegui modelli grandi sui tuoi dispositivi quotidiani
CortexRuntime in stile Ollama del team di Jan
Nexa SDKEsegui qualsiasi modello su qualsiasi dispositivo — CPU, GPU, NPU
RamaLamaEsegui modelli come contenitori OCI
GPUStackGestisci cluster GPU per eseguire modelliText Generation WebUI è gratuito e open-source (licenza AGPL-3.0), quindi puoi usarlo, ospitarlo autonomamente e modificarlo senza costi.
Sì. Text Generation WebUI è progettato per funzionare sulla tua macchina o server, mantenendo i tuoi dati privati.
Le popolari alternative open-source includono Ollama, LM Studio, Jan. Vedi i confronti sopra per scegliere.
Sfoglia l'intero elenco di strumenti, modelli e progetti AI open-source — aggiornato quotidianamente.
Sfoglia tutti gli strumenti →