swiftLLM
Ein kleines, aber leistungsstarkes LLM-Inferenzsystem, das für Forschungszwecke maßgeschneidert ist. vLLM-ähnliche Leistung mit nur 2k Zeilen Code (2 % von vLLM).
Führen Sie ein einfaches System aus, um große Sprachmodelle mit minimalem Code zu testen und zu erforschen.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarEin kleines, aber leistungsstarkes LLM-Inferenzsystem, das für Forschungszwecke maßgeschneidert ist. vLLM-ähnliche Leistung mit nur 2k Zeilen Code (2 % von vLLM).
swiftLLM hat 329 Sterne auf GitHub. Es wurde 37-mal geforkt. swiftLLM ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. swiftLLM ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: cuda, gpt, inference, inference-engine.
Was ist swiftLLM?
Ein kleines, aber leistungsstarkes LLM-Inferenzsystem, das für Forschungszwecke maßgeschneidert ist. vLLM-ähnliche Leistung mit nur 2k Zeilen Code (2 % von vLLM).
Ist swiftLLM Open Source?
swiftLLM ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist swiftLLM kostenlos?
Ja. swiftLLM ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht swiftLLM?
swiftLLM ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist swiftLLM geschrieben?
swiftLLM ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/interestinglsy-swiftllm.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.