blackwell

6 proyectos comparten este topic de GitHub

Las líneas conectan a los miembros que están mediblemente relacionados entre sí. El tamaño de los puntos refleja las estrellas.

🧬 Miembros

A high-throughput and memory-efficient inference and serving engine for LLMs

SGLang is a high-performance serving framework for large language models and multimodal models.

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and…

TokenSpeed is a speed-of-light LLM inference engine.

OpenLake is a high performance storage engine for efficient LLM inference and GPU Training

Parallax is a distributed model serving framework that lets you build your own AI cluster anywhere

🔗 Familias relacionadas

qwen 87 cuda 82 gpt-oss 11 kimi 23 llm-serving 21 moe 17 transformer 62 glm 27

Medido a partir de los temas de GitHub compartidos por ambos proyectos, ponderado por cuán raros son cada uno de los temas.