Inferenza INT4/INT5/INT8 e FP16 su CPU per il modello linguistico RWKV
Esegui un modello di linguaggio sul tuo computer con supporto per vari formati di precisione per ottimizzare le prestazioni.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiInferenza INT4/INT5/INT8 e FP16 su CPU per il modello linguistico RWKV
rwkv.cpp ha 1.6k stelle su GitHub. È stato forkato 129 volte. rwkv.cpp è scritto principalmente in C++. È in sviluppo attivo dal 2023. rwkv.cpp è disponibile con licenza MIT. I suoi temi principali sono: deep-learning, ggml, language-model, llm.
Inferenza INT4/INT5/INT8 e FP16 su CPU per il modello linguistico RWKV
rwkv.cpp è un progetto open source. È rilasciato con licenza MIT.
Sì. rwkv.cpp è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
rwkv.cpp è disponibile con licenza MIT.
rwkv.cpp è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/rwkv-rwkv-cpp.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.