Métodos Unificados de Compressão de Cache KV para Modelos Auto-Regressivos
Explore diferentes métodos para comprimir e gerenciar dados para modelos de IA em uma única interface.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserMétodos Unificados de Compressão de Cache KV para Modelos Auto-Regressivos
KVCache-Factory tem 1.4k estrelas no GitHub. Foi bifurcado 178 vezes. KVCache-Factory é escrito principalmente em Python. Está em desenvolvimento ativo desde 2024. KVCache-Factory está disponível sob a licença MIT. Os seus principais temas são: kv-cache, kv-cache-compression, llm.
Métodos Unificados de Compressão de Cache KV para Modelos Auto-Regressivos
KVCache-Factory é um projeto de código aberto. É distribuído sob a licença MIT.
Sim. KVCache-Factory é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
KVCache-Factory está disponível sob a licença MIT.
KVCache-Factory é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/zefan-cai-kvcache-factory.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.