gpu_poor
Calcola il requisito di token/s e memoria GPU per qualsiasi LLM. Supporta quantizzazione llama.cpp/ggml/bnb/QLoRA
Determina la memoria GPU necessaria e le metriche di prestazione per eseguire modelli linguistici sul tuo hardware.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiCalcola il requisito di token/s e memoria GPU per qualsiasi LLM. Supporta quantizzazione llama.cpp/ggml/bnb/QLoRA
gpu_poor ha 1.4k stelle su GitHub. È stato forkato 88 volte. gpu_poor è scritto principalmente in JavaScript. È in sviluppo attivo dal 2023. I suoi temi principali sono: ggml, gpu, huggingface, language-model.
Che cos'è gpu_poor?
Calcola il requisito di token/s e memoria GPU per qualsiasi LLM. Supporta quantizzazione llama.cpp/ggml/bnb/QLoRA
gpu_poor è open source?
gpu_poor è un progetto open source.
gpu_poor è gratuito?
Sì. gpu_poor è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
In quale linguaggio è scritto gpu_poor?
gpu_poor è scritto principalmente in JavaScript.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/rahulschand-gpu-poor.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.