paddler
Bilanciatore di carico e piattaforma di servizio LLM/VLM open-source per l'auto-ospitare LLM (e VLM) su larga scala 🏓🦙 Alternativa a progetti come llm-d, Docker Model Runner, ecc. ma con meno parti mobili e distribuzioni semplici costruite attorno all'ecosistema ggml. Funziona su CPU e GPU.
Esegui e gestisci modelli di linguaggio di grandi dimensioni sui tuoi server per privacy e controllo.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiBilanciatore di carico e piattaforma di servizio LLM/VLM open-source per l'auto-ospitare LLM (e VLM) su larga scala 🏓🦙 Alternativa a progetti come llm-d, Docker Model Runner, ecc. ma con meno parti mobili e distribuzioni semplici costruite attorno all'ecosistema ggml. Funziona su CPU e GPU.
paddler ha 1.7k stelle su GitHub. È stato forkato 97 volte. paddler è scritto principalmente in Rust. È in sviluppo attivo dal 2024. paddler è disponibile con licenza Apache-2.0. I suoi temi principali sono: ai, llamacpp, llm, llmops.
Che cos'è paddler?
Bilanciatore di carico e piattaforma di servizio LLM/VLM open-source per l'auto-ospitare LLM (e VLM) su larga scala 🏓🦙 Alternativa a progetti come llm-d, Docker Model Runner, ecc. ma con meno parti mobili e distribuzioni semplici costruite attorno all'ecosistema ggml. Funziona su CPU e GPU.
paddler è open source?
paddler è un progetto open source. È rilasciato con licenza Apache-2.0.
paddler è gratuito?
Sì. paddler è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è paddler?
paddler è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto paddler?
paddler è scritto principalmente in Rust.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/intentee-paddler.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.