LMDeploy es un conjunto de herramientas para comprimir, desplegar y servir LLMs.
Comprime y despliega modelos de lenguaje grandes para un uso eficiente en aplicaciones.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasLMDeploy es un conjunto de herramientas para comprimir, desplegar y servir LLMs.
lmdeploy tiene 8k estrellas en GitHub. Se ha bifurcado 717 veces. lmdeploy está escrito principalmente en Python. Se desarrolla activamente desde 2023. lmdeploy está disponible bajo la licencia Apache-2.0. Sus temas principales son: codellama, cuda-kernels, deepspeed, fastertransformer.
Read the full guideLMDeploy es un conjunto de herramientas para comprimir, desplegar y servir LLMs.
lmdeploy es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
Sí. lmdeploy es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
lmdeploy está disponible bajo la licencia Apache-2.0.
lmdeploy está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://opensourceai.tech/project/internlm-lmdeploy.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.