rtp-llm
RTP-LLM: O motor de inferência LLM de alto desempenho da Alibaba para aplicações diversas.
Use uma ferramenta de alto desempenho para rodar grandes modelos de linguagem para diferentes aplicações de forma eficiente.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserRTP-LLM: O motor de inferência LLM de alto desempenho da Alibaba para aplicações diversas.
rtp-llm tem 1.3k estrelas no GitHub. Foi bifurcado 245 vezes. rtp-llm é escrito principalmente em Cuda. Está em desenvolvimento ativo desde 2023. rtp-llm está disponível sob a licença Apache-2.0. Os seus principais temas são: gpt, inference, llama, llm.
O que é rtp-llm?
RTP-LLM: O motor de inferência LLM de alto desempenho da Alibaba para aplicações diversas.
rtp-llm é de código aberto?
rtp-llm é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
rtp-llm é gratuito?
Sim. rtp-llm é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está rtp-llm?
rtp-llm está disponível sob a licença Apache-2.0.
Em que linguagem rtp-llm está escrito?
rtp-llm é escrito principalmente em Cuda.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/alibaba-rtp-llm.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.