picollm
Inferencia LLM en dispositivo impulsada por cuantización X-Bit.
Ejecutar modelos de lenguaje en tu dispositivo sin necesidad de conexión a internet, manteniendo tus datos privados.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasInferencia LLM en dispositivo impulsada por cuantización X-Bit.
picollm tiene 317 estrellas en GitHub. Se ha bifurcado 26 veces. picollm está escrito principalmente en Python. Se desarrolla activamente desde 2024. picollm está disponible bajo la licencia Apache-2.0. Sus temas principales son: compression, efficient-inference, gemma, generative-ai.
¿Qué es picollm?
Inferencia LLM en dispositivo impulsada por cuantización X-Bit.
¿picollm es de código abierto?
picollm es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.
¿picollm es gratis?
Sí. picollm es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está picollm?
picollm está disponible bajo la licencia Apache-2.0.
¿En qué lenguaje está escrito picollm?
picollm está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/picovoice-picollm.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.