rtp-llm
RTP-LLM: El motor de inferencia LLM de alto rendimiento de Alibaba para diversas aplicaciones.
Utiliza una herramienta de alto rendimiento para ejecutar modelos de lenguaje grandes para diferentes aplicaciones de manera eficiente.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasRTP-LLM: El motor de inferencia LLM de alto rendimiento de Alibaba para diversas aplicaciones.
rtp-llm tiene 1.3k estrellas en GitHub. Se ha bifurcado 245 veces. rtp-llm está escrito principalmente en Cuda. Se desarrolla activamente desde 2023. rtp-llm está disponible bajo la licencia Apache-2.0. Sus temas principales son: gpt, inference, llama, llm.
¿Qué es rtp-llm?
RTP-LLM: El motor de inferencia LLM de alto rendimiento de Alibaba para diversas aplicaciones.
¿rtp-llm es de código abierto?
rtp-llm es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿rtp-llm es gratis?
Sí. rtp-llm es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está rtp-llm?
rtp-llm está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito rtp-llm?
rtp-llm está escrito principalmente en Cuda.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://opensourceai.tech/project/alibaba-rtp-llm.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.