Inferencia INT4/INT5/INT8 y FP16 en CPU para el modelo de lenguaje RWKV.
Ejecuta un modelo de lenguaje en tu computadora con soporte para varios formatos de precisión para optimizar el rendimiento.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasInferencia INT4/INT5/INT8 y FP16 en CPU para el modelo de lenguaje RWKV.
rwkv.cpp tiene 1.6k estrellas en GitHub. Se ha bifurcado 128 veces. rwkv.cpp está escrito principalmente en C++. Se desarrolla activamente desde 2023. rwkv.cpp está disponible bajo la licencia MIT. Sus temas principales son: deep-learning, ggml, language-model, llm.
Inferencia INT4/INT5/INT8 y FP16 en CPU para el modelo de lenguaje RWKV.
rwkv.cpp es un proyecto de código abierto. Se distribuye bajo la licencia MIT.
Sí. rwkv.cpp es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
rwkv.cpp está disponible bajo la licencia MIT.
rwkv.cpp está escrito principalmente en C++.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://opensourceai.tech/project/rwkv-rwkv-cpp.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.