llama.cpp-v100
llama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod
Run large AI models on NVIDIA Tesla V100 GPUs for advanced tasks.
Scritto da chi mantiene questo progetto, verificato tramite il repository.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoillama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod
llama.cpp-v100 ha 74 stelle su GitHub. È stato forkato 14 volte. llama.cpp-v100 è scritto principalmente in C++. È in sviluppo attivo dal 2026. llama.cpp-v100 è disponibile con licenza GPL-3.0. I suoi temi principali sono: cuda, gguf, llama-cpp, llm-inference.
Che cos'è llama.cpp-v100?
llama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod
llama.cpp-v100 è open source?
llama.cpp-v100 è un progetto open source. È rilasciato con licenza GPL-3.0.
llama.cpp-v100 è gratuito?
Sì. llama.cpp-v100 è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente. La sua licenza GPL-3.0 è copyleft: ogni versione modificata che distribuisce deve restare sotto la stessa licenza.
Con quale licenza è llama.cpp-v100?
llama.cpp-v100 è disponibile con licenza GPL-3.0.
In quale linguaggio è scritto llama.cpp-v100?
llama.cpp-v100 è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/1115714829-llama-cpp-v100.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.