llama.cpp-v100
llama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod
Run large AI models on NVIDIA Tesla V100 GPUs for advanced tasks.
Écrit par la personne qui maintient ce projet, vérifié via le dépôt.
Recevez une alerte par e-mail à sa prochaine version ou quand il décolle — ne ratez plus rien.
Gratuit · sans carte · désinscription à tout momentllama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod
llama.cpp-v100 compte 74 étoiles sur GitHub. Il a été forké 14 fois. llama.cpp-v100 est écrit principalement en C++. Il est développé activement depuis 2026. llama.cpp-v100 est disponible sous licence GPL-3.0. Ses principaux thèmes sont : cuda, gguf, llama-cpp, llm-inference.
Qu'est-ce que llama.cpp-v100 ?
llama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod
llama.cpp-v100 est-il open source ?
llama.cpp-v100 est un projet open source. Il est distribué sous licence GPL-3.0.
llama.cpp-v100 est-il gratuit ?
Oui. llama.cpp-v100 est gratuit et open source — vous pouvez l'utiliser, le modifier et l'héberger vous-même. Sa licence GPL-3.0 est copyleft : toute version modifiée que vous distribuez doit rester sous la même licence.
Sous quelle licence est llama.cpp-v100 ?
llama.cpp-v100 est disponible sous licence GPL-3.0.
Dans quel langage llama.cpp-v100 est-il écrit ?
llama.cpp-v100 est écrit principalement en C++.
Ajoutez ce badge en direct à votre README — vos étoiles GitHub et votre classement dans le répertoire, actualisés quotidiennement.
[](https://olud.ai/project/1115714829-llama-cpp-v100.html)
Mesuré à partir des topics GitHub communs aux deux projets, pondérés par leur rareté.