Inferenza LLM distribuita. Collega i dispositivi domestici in un potente cluster per accelerare l'inferenza LLM. Più dispositivi significano inferenza più veloce.
Collega i tuoi dispositivi domestici per creare una rete più veloce per eseguire modelli AI.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiInferenza LLM distribuita. Collega i dispositivi domestici in un potente cluster per accelerare l'inferenza LLM. Più dispositivi significano inferenza più veloce.
distributed-llama ha 3k stelle su GitHub. È stato forkato 243 volte. distributed-llama è scritto principalmente in C++. È in sviluppo attivo dal 2023. distributed-llama è disponibile con licenza MIT. I suoi temi principali sono: distributed-computing, distributed-llm, llama2, llama3.
Inferenza LLM distribuita. Collega i dispositivi domestici in un potente cluster per accelerare l'inferenza LLM. Più dispositivi significano inferenza più veloce.
distributed-llama è un progetto open source. È rilasciato con licenza MIT.
Sì. distributed-llama è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
distributed-llama è disponibile con licenza MIT.
distributed-llama è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/b4rtaz-distributed-llama.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.