vllm-mlx
OpenAI- und Anthropic-kompatibler Server für Apple Silicon. Führen Sie LLMs und vision-language Modelle (Llama, Qwen-VL, LLaVA) mit kontinuierlichem Batching, MCP-Toolaufrufen und multimodaler Unterstützung aus. Native MLX-Backend, 400+ tok/s. Funktioniert mit Claude Code.
Führen Sie verschiedene KI-Modelle auf Ihrem Apple-Computer aus, um Texte und Bilder effizient zu verarbeiten.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarOpenAI- und Anthropic-kompatibler Server für Apple Silicon. Führen Sie LLMs und vision-language Modelle (Llama, Qwen-VL, LLaVA) mit kontinuierlichem Batching, MCP-Toolaufrufen und multimodaler Unterstützung aus. Native MLX-Backend, 400+ tok/s. Funktioniert mit Claude Code.
vllm-mlx hat 1.5k Sterne auf GitHub. Es wurde 202-mal geforkt. vllm-mlx ist hauptsächlich in Python geschrieben. Es wird seit 2025 aktiv entwickelt. vllm-mlx ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: anthropic, apple-silicon, audio-processing, claude-code.
Was ist vllm-mlx?
OpenAI- und Anthropic-kompatibler Server für Apple Silicon. Führen Sie LLMs und vision-language Modelle (Llama, Qwen-VL, LLaVA) mit kontinuierlichem Batching, MCP-Toolaufrufen und multimodaler Unterstützung aus. Native MLX-Backend, 400+ tok/s. Funktioniert mit Claude Code.
Ist vllm-mlx Open Source?
vllm-mlx ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist vllm-mlx kostenlos?
Ja. vllm-mlx ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht vllm-mlx?
vllm-mlx ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist vllm-mlx geschrieben?
vllm-mlx ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/waybarrios-vllm-mlx.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.