rtp-llm
RTP-LLM: il motore di inferenza LLM ad alte prestazioni di Alibaba per applicazioni diverse.
Utilizza uno strumento ad alte prestazioni per eseguire modelli di linguaggio di grandi dimensioni per diverse applicazioni in modo efficiente.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiRTP-LLM: il motore di inferenza LLM ad alte prestazioni di Alibaba per applicazioni diverse.
rtp-llm ha 1.3k stelle su GitHub. È stato forkato 245 volte. rtp-llm è scritto principalmente in Cuda. È in sviluppo attivo dal 2023. rtp-llm è disponibile con licenza Apache-2.0. I suoi temi principali sono: gpt, inference, llama, llm.
Che cos'è rtp-llm?
RTP-LLM: il motore di inferenza LLM ad alte prestazioni di Alibaba per applicazioni diverse.
rtp-llm è open source?
rtp-llm è un progetto open source. È rilasciato con licenza Apache-2.0.
rtp-llm è gratuito?
Sì. rtp-llm è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è rtp-llm?
rtp-llm è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto rtp-llm?
rtp-llm è scritto principalmente in Cuda.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/alibaba-rtp-llm.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.