LightLLM
LightLLM é um framework de inferência e serviço LLM (Modelo de Linguagem Grande) baseado em Python, notável por seu design leve, fácil escalabilidade e alto desempenho.
Execute e sirva grandes modelos de linguagem de forma eficiente com um framework Python leve.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserLightLLM é um framework de inferência e serviço LLM (Modelo de Linguagem Grande) baseado em Python, notável por seu design leve, fácil escalabilidade e alto desempenho.
LightLLM tem 4.2k estrelas no GitHub. Foi bifurcado 346 vezes. LightLLM é escrito principalmente em Python. Está em desenvolvimento ativo desde 2023. LightLLM está disponível sob a licença Apache-2.0. Os seus principais temas são: deep-learning, gpt, llama, llm.
O que é LightLLM?
LightLLM é um framework de inferência e serviço LLM (Modelo de Linguagem Grande) baseado em Python, notável por seu design leve, fácil escalabilidade e alto desempenho.
LightLLM é de código aberto?
LightLLM é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
LightLLM é gratuito?
Sim. LightLLM é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está LightLLM?
LightLLM está disponível sob a licença Apache-2.0.
Em que linguagem LightLLM está escrito?
LightLLM é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/modeltc-lightllm.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.