PowerInfer
Servicio de Modelos de Lenguaje Grande de alta velocidad para Despliegue Local
Ejecuta modelos de lenguaje grande en tu propio dispositivo para una generación de texto rápida.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasServicio de Modelos de Lenguaje Grande de alta velocidad para Despliegue Local
PowerInfer tiene 9.7k estrellas en GitHub. Se ha bifurcado 588 veces. PowerInfer está escrito principalmente en C++. Se desarrolla activamente desde 2023. PowerInfer está disponible bajo la licencia MIT. Sus temas principales son: large-language-models, llama, llm, llm-inference.
¿Qué es PowerInfer?
Servicio de Modelos de Lenguaje Grande de alta velocidad para Despliegue Local
¿PowerInfer es de código abierto?
PowerInfer es un proyecto de código abierto. Se distribuye bajo la licencia MIT.
¿PowerInfer es gratis?
Sí. PowerInfer es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está PowerInfer?
PowerInfer está disponible bajo la licencia MIT.
¿En qué lenguaje está escrito PowerInfer?
PowerInfer está escrito principalmente en C++.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/tiiny-ai-powerinfer.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.