Universelle LLM-Bereitstellungs-Engine mit ML-Kompilierung
Setzen Sie große Sprachmodelle einfach auf verschiedenen Plattformen ein und optimieren Sie sie.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarUniverselle LLM-Bereitstellungs-Engine mit ML-Kompilierung
mlc-llm hat 23k Sterne auf GitHub. Es wurde 2.1k-mal geforkt. mlc-llm ist hauptsächlich in Python geschrieben. Es wird seit 2023 aktiv entwickelt. mlc-llm ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: language-model, llm, machine-learning-compilation, tvm.
Read the full guideUniverselle LLM-Bereitstellungs-Engine mit ML-Kompilierung
mlc-llm ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ja. mlc-llm ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
mlc-llm ist unter der Apache-2.0-Lizenz verfügbar.
mlc-llm ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/mlc-ai-mlc-llm.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.