gptq

4 Projekte teilen dieses GitHub-Topic

Linien verbinden Mitglieder, die messbar miteinander verwandt sind. Die Punktgröße spiegelt die Sterne wider.

🧬 Mitglieder

neural-compressor

SOTA low-bit LLM quantization (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsity; leading model compression…

★ 2.7k

GPTQModel

LLM model quantization (compression) toolkit with HW acceleration support for Nvidia, AMD, Intel GPU and…

★ 1.2k

LLaMA-Cult-and-More

Large Language Models for All, 🦙 Cult and More, Stay in touch !

★ 449

xllm

🦖 X—LLM: Cutting Edge & Easy LLM Finetuning

★ 410

Gemessen anhand der von beiden Projekten geteilten GitHub-Themen, gewichtet nach der Seltenheit jedes Themas.