lmdeploy
LMDeploy è un toolkit per comprimere, distribuire e servire LLM.
Comprimi e distribuisci modelli di linguaggio di grandi dimensioni per un uso efficiente nelle applicazioni.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiLMDeploy è un toolkit per comprimere, distribuire e servire LLM.
lmdeploy ha 8k stelle su GitHub. È stato forkato 717 volte. lmdeploy è scritto principalmente in Python. È in sviluppo attivo dal 2023. lmdeploy è disponibile con licenza Apache-2.0. I suoi temi principali sono: codellama, cuda-kernels, deepspeed, fastertransformer.
Read the full guideChe cos'è lmdeploy?
LMDeploy è un toolkit per comprimere, distribuire e servire LLM.
lmdeploy è open source?
lmdeploy è un progetto open source. È rilasciato con licenza Apache-2.0.
lmdeploy è gratuito?
Sì. lmdeploy è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è lmdeploy?
lmdeploy è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto lmdeploy?
lmdeploy è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/internlm-lmdeploy.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.