LightLLM
LightLLM es un marco de inferencia y servicio LLM (Modelo de Lenguaje Grande) basado en Python, notable por su diseño ligero, fácil escalabilidad y alto rendimiento.
Ejecuta y sirve modelos de lenguaje grandes de manera eficiente con un marco de trabajo ligero en Python.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasLightLLM es un marco de inferencia y servicio LLM (Modelo de Lenguaje Grande) basado en Python, notable por su diseño ligero, fácil escalabilidad y alto rendimiento.
LightLLM tiene 4.3k estrellas en GitHub. Se ha bifurcado 358 veces. LightLLM está escrito principalmente en Python. Se desarrolla activamente desde 2023. LightLLM está disponible bajo la licencia Apache-2.0. Sus temas principales son: deep-learning, gpt, llama, llm.
¿Qué es LightLLM?
LightLLM es un marco de inferencia y servicio LLM (Modelo de Lenguaje Grande) basado en Python, notable por su diseño ligero, fácil escalabilidad y alto rendimiento.
¿LightLLM es de código abierto?
LightLLM es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿LightLLM es gratis?
Sí. LightLLM es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está LightLLM?
LightLLM está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito LightLLM?
LightLLM está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/modeltc-lightllm.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.