Inferência LLM distribuída. Conecte dispositivos domésticos em um poderoso cluster para acelerar a inferência LLM. Mais dispositivos significam inferência mais rápida.
Conecte seus dispositivos domésticos para criar uma rede mais rápida para executar modelos de IA.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserInferência LLM distribuída. Conecte dispositivos domésticos em um poderoso cluster para acelerar a inferência LLM. Mais dispositivos significam inferência mais rápida.
distributed-llama tem 3k estrelas no GitHub. Foi bifurcado 243 vezes. distributed-llama é escrito principalmente em C++. Está em desenvolvimento ativo desde 2023. distributed-llama está disponível sob a licença MIT. Os seus principais temas são: distributed-computing, distributed-llm, llama2, llama3.
Inferência LLM distribuída. Conecte dispositivos domésticos em um poderoso cluster para acelerar a inferência LLM. Mais dispositivos significam inferência mais rápida.
distributed-llama é um projeto de código aberto. É distribuído sob a licença MIT.
Sim. distributed-llama é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
distributed-llama está disponível sob a licença MIT.
distributed-llama é escrito principalmente em C++.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/b4rtaz-distributed-llama.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.