Inferenza INT4/INT5/INT8 e FP16 su CPU per il modello linguistico RWKV
Esegui un modello linguistico sul tuo computer con supporto per vari formati di precisione per ottimizzare le prestazioni.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiInferenza INT4/INT5/INT8 e FP16 su CPU per il modello linguistico RWKV
rwkv.cpp ha 1.6k stelle su GitHub. È stato forkato 128 volte. rwkv.cpp è scritto principalmente in C++. È in sviluppo attivo dal 2023. rwkv.cpp è disponibile con licenza MIT. I suoi temi principali sono: deep-learning, ggml, language-model, llm.
Inferenza INT4/INT5/INT8 e FP16 su CPU per il modello linguistico RWKV
rwkv.cpp è un progetto open source. È rilasciato con licenza MIT.
Sì. rwkv.cpp è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
rwkv.cpp è disponibile con licenza MIT.
rwkv.cpp è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/rwkv-rwkv-cpp.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.