Inicio› Proyectos› llama.cpp-v100
llama.cpp-v100
C++

llama.cpp-v100

llama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod

por 1115714829 · GitHub
Estrellas
Ramas
Tendencias
Licencia
Creado
Último commit
Categoría
Lenguaje
Probable
Autoalojable
cudaggufllama-cppGPL-3.0C++Autoalojable
Ver en GitHub
En palabras simples

Run large AI models on NVIDIA Tesla V100 GPUs for advanced tasks.

✓ Reivindicada por su responsable
Que haceA llama. cpp inference framework specifically designed for V100 graphics cards
Para quienA llama. cpp inference framework specifically designed for V100 graphics cards
Lo que no haceA llama. cpp inference framework specifically designed for V100 graphics cards

Escrito por quien mantiene este proyecto, verificado a traves del repositorio.

llama.cpp-v100 — GitHub preview card
📈 Historial de estrellas
7445
2026-10-222026-11-15
📈 Sigue llama.cpp-v100

Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.

Gratis · sin tarjeta · cancela cuando quieras
Recibir alertas por email →
📄 Acerca de

llama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod

llama.cpp-v100 tiene 74 estrellas en GitHub. Se ha bifurcado 14 veces. llama.cpp-v100 está escrito principalmente en C++. Se desarrolla activamente desde 2026. llama.cpp-v100 está disponible bajo la licencia GPL-3.0. Sus temas principales son: cuda, gguf, llama-cpp, llm-inference.

❓ Frequently asked questions

¿Qué es llama.cpp-v100?

llama.cpp optimized for NVIDIA Tesla V100 (SM70). Qwen3.8-Flash-Next (MoE) with MTP on 1/2/3/6x V100-16GB at 262K context (6 GPUs: prefill 3402 tok/s at 200K; 2 GPUs on one socket: 2152 tok/s). Qwen3.8-27B with DFlash2 on 1-6 GPUs, up to 512K context. Multimod

¿llama.cpp-v100 es de código abierto?

llama.cpp-v100 es un proyecto de código abierto. Se distribuye bajo la licencia GPL-3.0.

¿llama.cpp-v100 es gratis?

Sí. llama.cpp-v100 es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo. Su licencia GPL-3.0 es copyleft: toda versión modificada que distribuya debe permanecer bajo la misma licencia.

¿Bajo qué licencia está llama.cpp-v100?

llama.cpp-v100 está disponible bajo la licencia GPL-3.0.

¿En qué lenguaje está escrito llama.cpp-v100?

llama.cpp-v100 está escrito principalmente en C++.

🏅 ¿Mantenedor de este proyecto?
olud.ai badge — llama.cpp-v100

Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.

[![olud.ai](https://olud.ai/badge.php?tool=1115714829-llama-cpp-v100)](https://olud.ai/project/1115714829-llama-cpp-v100.html)
Más opciones de distintivos →
🧬 Comparte ADN con🧬 Ver el mapa de ADN →

Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.