Toolkit per inferenza e distribuzione ad alte prestazioni per LLM e VLM basato su PaddlePaddle
Distribuisci ed esegui modelli AI avanzati su varie piattaforme hardware con facilità.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiToolkit per inferenza e distribuzione ad alte prestazioni per LLM e VLM basato su PaddlePaddle
FastDeploy ha 3.7k stelle su GitHub. È stato forkato 753 volte. FastDeploy è scritto principalmente in Python. È in sviluppo attivo dal 2022. FastDeploy è disponibile con licenza Apache-2.0. I suoi temi principali sono: ernie, ernie-45, ernie-45-vl, inference.
Toolkit per inferenza e distribuzione ad alte prestazioni per LLM e VLM basato su PaddlePaddle
FastDeploy è un progetto open source. È rilasciato con licenza Apache-2.0.
Sì. FastDeploy è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
FastDeploy è disponibile con licenza Apache-2.0.
FastDeploy è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/paddlepaddle-fastdeploy.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.