paddler
Balanceador de carga y plataforma de servicio LLM/VLM de código abierto para autoalojar LLMs (y VLMs) a gran escala 🏓🦙 Alternativa a proyectos como llm-d, Docker Model Runner, etc., pero con menos partes móviles y despliegues simples construidos alrededor del ecosistema ggml. Funciona en CPU y GPU.
Ejecuta y gestiona modelos de lenguaje grande en tus propios servidores para privacidad y control.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasBalanceador de carga y plataforma de servicio LLM/VLM de código abierto para autoalojar LLMs (y VLMs) a gran escala 🏓🦙 Alternativa a proyectos como llm-d, Docker Model Runner, etc., pero con menos partes móviles y despliegues simples construidos alrededor del ecosistema ggml. Funciona en CPU y GPU.
paddler tiene 1.7k estrellas en GitHub. Se ha bifurcado 97 veces. paddler está escrito principalmente en Rust. Se desarrolla activamente desde 2024. paddler está disponible bajo la licencia Apache-2.0. Sus temas principales son: ai, llamacpp, llm, llmops.
¿Qué es paddler?
Balanceador de carga y plataforma de servicio LLM/VLM de código abierto para autoalojar LLMs (y VLMs) a gran escala 🏓🦙 Alternativa a proyectos como llm-d, Docker Model Runner, etc., pero con menos partes móviles y despliegues simples construidos alrededor del ecosistema ggml. Funciona en CPU y GPU.
¿paddler es de código abierto?
paddler es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿paddler es gratis?
Sí. paddler es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está paddler?
paddler está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito paddler?
paddler está escrito principalmente en Rust.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/intentee-paddler.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.