paddler
Balanceador de carga e plataforma de serviço LLM/VLM de código aberto para auto-hospedagem de LLMs (e VLMs) em grande escala 🏓🦙 Alternativa a projetos como llm-d, Docker Model Runner, etc., mas com menos partes móveis e implantações simples construídas em torno do ecossistema ggml. Funciona em CPU e GPU.
Execute e gerencie grandes modelos de linguagem em seus próprios servidores para privacidade e controle.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserBalanceador de carga e plataforma de serviço LLM/VLM de código aberto para auto-hospedagem de LLMs (e VLMs) em grande escala 🏓🦙 Alternativa a projetos como llm-d, Docker Model Runner, etc., mas com menos partes móveis e implantações simples construídas em torno do ecossistema ggml. Funciona em CPU e GPU.
paddler tem 1.6k estrelas no GitHub. Foi bifurcado 92 vezes. paddler é escrito principalmente em Rust. Está em desenvolvimento ativo desde 2024. paddler está disponível sob a licença Apache-2.0. Os seus principais temas são: ai, llamacpp, llm, llmops.
O que é paddler?
Balanceador de carga e plataforma de serviço LLM/VLM de código aberto para auto-hospedagem de LLMs (e VLMs) em grande escala 🏓🦙 Alternativa a projetos como llm-d, Docker Model Runner, etc., mas com menos partes móveis e implantações simples construídas em torno do ecossistema ggml. Funciona em CPU e GPU.
paddler é de código aberto?
paddler é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
paddler é gratuito?
Sim. paddler é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está paddler?
paddler está disponível sob a licença Apache-2.0.
Em que linguagem paddler está escrito?
paddler é escrito principalmente em Rust.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/intentee-paddler.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.