gpu_poor
Calcule a necessidade de token/s e memória GPU para qualquer LLM. Suporta quantização llama.cpp/ggml/bnb/QLoRA
Determine a memória GPU necessária e as métricas de desempenho para executar modelos de linguagem no seu hardware.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserCalcule a necessidade de token/s e memória GPU para qualquer LLM. Suporta quantização llama.cpp/ggml/bnb/QLoRA
gpu_poor tem 1.4k estrelas no GitHub. Foi bifurcado 88 vezes. gpu_poor é escrito principalmente em JavaScript. Está em desenvolvimento ativo desde 2023. Os seus principais temas são: ggml, gpu, huggingface, language-model.
O que é gpu_poor?
Calcule a necessidade de token/s e memória GPU para qualquer LLM. Suporta quantização llama.cpp/ggml/bnb/QLoRA
gpu_poor é de código aberto?
gpu_poor é um projeto de código aberto.
gpu_poor é gratuito?
Sim. gpu_poor é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Em que linguagem gpu_poor está escrito?
gpu_poor é escrito principalmente em JavaScript.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/rahulschand-gpu-poor.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.