omlx
LLM-Inferenzserver mit kontinuierlichem Batching & SSD-Caching für Apple Silicon — verwaltet aus der macOS-Menüleiste
Führen Sie einen lokalen Server auf Ihrem Mac aus, um die Leistung von KI-Modellen über die Menüleiste zu verwalten und zu optimieren.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarLLM-Inferenzserver mit kontinuierlichem Batching & SSD-Caching für Apple Silicon — verwaltet aus der macOS-Menüleiste
omlx hat 18.3k Sterne auf GitHub. Es wurde 1.6k-mal geforkt. omlx ist hauptsächlich in Python geschrieben. Es wird seit 2026 aktiv entwickelt. omlx ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: apple-silicon, inference-server, llm, macos.
Was ist omlx?
LLM-Inferenzserver mit kontinuierlichem Batching & SSD-Caching für Apple Silicon — verwaltet aus der macOS-Menüleiste
Ist omlx Open Source?
omlx ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist omlx kostenlos?
Ja. omlx ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht omlx?
omlx ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist omlx geschrieben?
omlx ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/jundot-omlx.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.