Inferencia LLM distribuida. Conecta dispositivos domésticos en un poderoso clúster para acelerar la inferencia de LLM. Más dispositivos significan inferencia más rápida.
Conecta tus dispositivos domésticos para crear una red más rápida para ejecutar modelos de IA.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasInferencia LLM distribuida. Conecta dispositivos domésticos en un poderoso clúster para acelerar la inferencia de LLM. Más dispositivos significan inferencia más rápida.
distributed-llama tiene 3k estrellas en GitHub. Se ha bifurcado 243 veces. distributed-llama está escrito principalmente en C++. Se desarrolla activamente desde 2023. distributed-llama está disponible bajo la licencia MIT. Sus temas principales son: distributed-computing, distributed-llm, llama2, llama3.
Inferencia LLM distribuida. Conecta dispositivos domésticos en un poderoso clúster para acelerar la inferencia de LLM. Más dispositivos significan inferencia más rápida.
distributed-llama es un proyecto de código abierto. Se distribuye bajo la licencia MIT.
Sí. distributed-llama es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
distributed-llama está disponible bajo la licencia MIT.
distributed-llama está escrito principalmente en C++.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://opensourceai.tech/project/b4rtaz-distributed-llama.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.