Inferência INT4/INT5/INT8 e FP16 na CPU para o modelo de linguagem RWKV
Execute um modelo de linguagem no seu computador com suporte para vários formatos de precisão para otimizar o desempenho.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserInferência INT4/INT5/INT8 e FP16 na CPU para o modelo de linguagem RWKV
rwkv.cpp tem 1.6k estrelas no GitHub. Foi bifurcado 128 vezes. rwkv.cpp é escrito principalmente em C++. Está em desenvolvimento ativo desde 2023. rwkv.cpp está disponível sob a licença MIT. Os seus principais temas são: deep-learning, ggml, language-model, llm.
Inferência INT4/INT5/INT8 e FP16 na CPU para o modelo de linguagem RWKV
rwkv.cpp é um projeto de código aberto. É distribuído sob a licença MIT.
Sim. rwkv.cpp é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
rwkv.cpp está disponível sob a licença MIT.
rwkv.cpp é escrito principalmente em C++.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/rwkv-rwkv-cpp.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.