Distribuisci modelli di linguaggio di grandi dimensioni sul tuo server utilizzando un metodo che riduce l'uso della memoria senza perdere prestazioni.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoi[ICML 2024] SqueezeLLM: Quantizzazione densa e sparsa
SqueezeLLM ha 723 stelle su GitHub. È stato forkato 52 volte. SqueezeLLM è scritto principalmente in Python. È in sviluppo attivo dal 2023. SqueezeLLM è disponibile con licenza MIT. I suoi temi principali sono: efficient-inference, large-language-models, llama, llm.
Che cos'è SqueezeLLM?
[ICML 2024] SqueezeLLM: Quantizzazione densa e sparsa
SqueezeLLM è open source?
SqueezeLLM è un progetto open source. È rilasciato con licenza MIT.
SqueezeLLM è gratuito?
Sì. SqueezeLLM è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è SqueezeLLM?
SqueezeLLM è disponibile con licenza MIT.
In quale linguaggio è scritto SqueezeLLM?
SqueezeLLM è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/squeezeailab-squeezellm.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.