distributed-llama
Verteilte LLM-Inferenz. Verbinde Heimgeräte zu einem leistungsstarken Cluster, um die LLM-Inferenz zu beschleunigen. Mehr Geräte bedeuten schnellere Inferenz.
Verbinden Sie Ihre Heimgeräte, um ein schnelleres Netzwerk für den Betrieb von KI-Modellen zu schaffen.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarVerteilte LLM-Inferenz. Verbinde Heimgeräte zu einem leistungsstarken Cluster, um die LLM-Inferenz zu beschleunigen. Mehr Geräte bedeuten schnellere Inferenz.
distributed-llama hat 3k Sterne auf GitHub. Es wurde 248-mal geforkt. distributed-llama ist hauptsächlich in C++ geschrieben. Es wird seit 2023 aktiv entwickelt. distributed-llama ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: distributed-computing, distributed-llm, llama2, llama3.
Was ist distributed-llama?
Verteilte LLM-Inferenz. Verbinde Heimgeräte zu einem leistungsstarken Cluster, um die LLM-Inferenz zu beschleunigen. Mehr Geräte bedeuten schnellere Inferenz.
Ist distributed-llama Open Source?
distributed-llama ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.
Ist distributed-llama kostenlos?
Ja. distributed-llama ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht distributed-llama?
distributed-llama ist unter der MIT-Lizenz verfügbar.
In welcher Sprache ist distributed-llama geschrieben?
distributed-llama ist hauptsächlich in C++ geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/b4rtaz-distributed-llama.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.