Startseite› Projekte› vllm-metal
vllm-metal
Python

vllm-metal

Von der Community gepflegtes Hardware-Plugin für vLLM auf Apple Silicon

von vllm-project · GitHub
2k
Sterne
350
Forks
+26 diese Woche
Trendend
Apache-2.0
Lizenz
2025
Erstellt
2 days ago
Letzter Commit
apple-silicon
Kategorie
Python
Sprache
apple-siliconllmmacosApache-2.0Python
Auf GitHub ansehen
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
vllm-metal — GitHub preview card
📈 Sternhistorie
2.0k1.8k
2026-09-282026-11-15
📈 vllm-metal verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

Von der Community gepflegtes Hardware-Plugin für vLLM auf Apple Silicon

vllm-metal hat 2k Sterne auf GitHub. Es wurde 350-mal geforkt. vllm-metal ist hauptsächlich in Python geschrieben. Es wird seit 2025 aktiv entwickelt. vllm-metal ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: apple-silicon, llm, macos, metal.

❓ Frequently asked questions

Was ist vllm-metal?

Von der Community gepflegtes Hardware-Plugin für vLLM auf Apple Silicon

Ist vllm-metal Open Source?

vllm-metal ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.

Ist vllm-metal kostenlos?

Ja. vllm-metal ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht vllm-metal?

vllm-metal ist unter der Apache-2.0-Lizenz verfügbar.

In welcher Sprache ist vllm-metal geschrieben?

vllm-metal ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — vllm-metal

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=vllm-project-vllm-metal)](https://olud.ai/project/vllm-project-vllm-metal.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
mlx-audio
Eine Text-to-Speech (TTS), Speech-to-Text (STT) und Speech-to-Speech (STS) Bibliothek, die auf…
★ 7.6k · apple-silicon
teiltmlxapple-silicon
TheWhisper
Optimierte Whisper-Modelle für Streaming und den Einsatz auf Geräten
★ 892 · apple-silicon
teiltmlxapple-silicon
omlx
LLM-Inferenzserver mit kontinuierlichem Batching & SSD-Caching für Apple Silicon — verwaltet au…
★ 23.6k · apple-silicon
teiltmlxapple-silicon
turbo-mlx
Local AI image & video generation for Apple Silicon: a native macOS app with an MLX Swift engin…
★ 135 · apple-silicon
teiltmlxapple-silicon
nativ
Nativ ist eine Open-Source-Lokal-KI-App für Mac. Sie führt offene KI-Modelle auf Apple Silicon…
★ 1.6k · apple-silicon
teiltmlxapple-silicon
inferssd
Führen Sie Modelle aus, die größer sind als Ihr RAM oder VRAM, indem Sie MoE-Experten von der S…
★ 1.1k · apple-silicon
teiltmetalapple-silicon
Klee
Eine native macOS AI-Chat-App, die von MLX betrieben wird. 100 % lokale Inferenz auf Apple Sili…
★ 1.8k · app
teiltmlxapple-silicon
mere-run
Run local image, text, speech, vision, music, and video workflows, plus model management and a…
★ 85 · ai
teiltmlxapple-silicon
mlx-lm
Führen Sie LLMs mit MLX aus
★ 7.7k · llms
teiltmlx
Flash-RL
Implementation for FP8/INT8 Rollout for RL training without performence drop.
★ 306 · reinforcement-learning
teiltvllm

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.