LightLLM
LightLLM è un framework di inferenza e servizio LLM (Large Language Model) basato su Python, noto per il suo design leggero, facile scalabilità e prestazioni ad alta velocità.
Esegui e servi modelli di linguaggio di grandi dimensioni in modo efficiente con un framework Python leggero.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiLightLLM è un framework di inferenza e servizio LLM (Large Language Model) basato su Python, noto per il suo design leggero, facile scalabilità e prestazioni ad alta velocità.
LightLLM ha 4.2k stelle su GitHub. È stato forkato 346 volte. LightLLM è scritto principalmente in Python. È in sviluppo attivo dal 2023. LightLLM è disponibile con licenza Apache-2.0. I suoi temi principali sono: deep-learning, gpt, llama, llm.
Che cos'è LightLLM?
LightLLM è un framework di inferenza e servizio LLM (Large Language Model) basato su Python, noto per il suo design leggero, facile scalabilità e prestazioni ad alta velocità.
LightLLM è open source?
LightLLM è un progetto open source. È rilasciato con licenza Apache-2.0.
LightLLM è gratuito?
Sì. LightLLM è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è LightLLM?
LightLLM è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto LightLLM?
LightLLM è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/modeltc-lightllm.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.