Un marco flexible para experimentar inferencias y optimizaciones de ajuste fino de LLM heterogéneos
Utiliza un marco para ejecutar y ajustar eficientemente grandes modelos de lenguaje en tu computadora.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasUn marco flexible para experimentar inferencias y optimizaciones de ajuste fino de LLM heterogéneos
ktransformers tiene 19.1k estrellas en GitHub. Se ha bifurcado 1.5k veces. ktransformers está escrito principalmente en Python. Se desarrolla activamente desde 2024. ktransformers está disponible bajo la licencia Apache-2.0.
Read the full guideUn marco flexible para experimentar inferencias y optimizaciones de ajuste fino de LLM heterogéneos
ktransformers es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
Sí. ktransformers es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
ktransformers está disponible bajo la licencia Apache-2.0.
ktransformers está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://opensourceai.tech/project/kvcache-ai-ktransformers.html)