Startseite› Projekte› mlx-omni-server
mlx-omni-server

mlx-omni-server

von madroidmaq · GitHub

MLX Omni Server ist ein lokaler Inferenzserver, der vom MLX-Framework von Apple betrieben wird und speziell für Apple Silicon (M-Serie) Chips entwickelt wurde. Er implementiert OpenAI-kompatible API-Endpunkte, die eine nahtlose Integration mit bestehenden OpenAI SDK-Clients ermöglichen, während er nutzt

# function-calling# genai# mlx# openai# openai-api
Auf GitHub ansehen
In einfachen Worten

Führen Sie KI-Modelle lokal auf Apple Silicon-Geräten mit einer einfachen API aus.

⭐ Sterne
734
🍴 Forks
90
🔥 Trendend
+1 diese Woche
📜 Lizenz
MIT
Kommerzielle Nutzung erlaubt
📅 Erstellt
2024
🔄 Letzter Commit
2 mo ago
🏷️ Kategorie
function-calling
💻 Sprache
Python
🖥️ Selbst gehostet
Wahrscheinlich
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
mlx-omni-server — GitHub preview card
📈 Sternhistorie
734733
2026-07-202026-07-29
📈 mlx-omni-server verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

MLX Omni Server ist ein lokaler Inferenzserver, der vom MLX-Framework von Apple betrieben wird und speziell für Apple Silicon (M-Serie) Chips entwickelt wurde. Er implementiert OpenAI-kompatible API-Endpunkte, die eine nahtlose Integration mit bestehenden OpenAI SDK-Clients ermöglichen, während er nutzt

mlx-omni-server hat 734 Sterne auf GitHub. Es wurde 90-mal geforkt. mlx-omni-server ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. mlx-omni-server ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: function-calling, genai, mlx, openai.

❓ Frequently asked questions

Was ist mlx-omni-server?

MLX Omni Server ist ein lokaler Inferenzserver, der vom MLX-Framework von Apple betrieben wird und speziell für Apple Silicon (M-Serie) Chips entwickelt wurde. Er implementiert OpenAI-kompatible API-Endpunkte, die eine nahtlose Integration mit bestehenden OpenAI SDK-Clients ermöglichen, während er nutzt

Ist mlx-omni-server Open Source?

mlx-omni-server ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.

Ist mlx-omni-server kostenlos?

Ja. mlx-omni-server ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht mlx-omni-server?

mlx-omni-server ist unter der MIT-Lizenz verfügbar.

In welcher Sprache ist mlx-omni-server geschrieben?

mlx-omni-server ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — mlx-omni-server

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=madroidmaq-mlx-omni-server)](https://olud.ai/project/madroidmaq-mlx-omni-server.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
Linguflex
Befehlen Sie Ihrer Welt mit Stimme
★ 812 · chatbot
teiltfunction-callingopenai-api
mlx-audio-swift
Ein modulares Swift SDK für die Audiobearbeitung mit MLX auf Apple Silicon
★ 736 · mlx
teiltsttmlx
PicoMLXServer
Der einfachste Weg, die schnellsten MLX-basierten LLMs lokal auszuführen
★ 327 · ai
teiltmlxopenai-api
omlx
LLM-Inferenzserver mit kontinuierlichem Batching & SSD-Caching für Apple Silicon — verwaltet au…
★ 18.3k · apple-silicon
teiltmlxopenai-api
f5-tts-mlx
Implementierung von F5-TTS in MLX
★ 644 · diffusion-transformer
teiltmlxtts
composio
Composio unterstützt 1000+ Toolkits, Toolsuche, Kontextmanagement, Authentifizierung und eine s…
★ 29.4k · agentic-ai
aichat
All-in-One LLM CLI-Tool mit Shell Assistant, Chat-REPL, RAG, KI-Tools & Agenten, mit Zugriff au…
★ 10.3k · ai
klavis
Klavis AI: MCP-Integrationsplattformen, die es KI-Agenten ermöglichen, Werkzeuge zuverlässig in…
★ 5.8k · agents
aci
ACI.dev ist die Open-Source-Plattform zum Aufrufen von Tools, die über 600+ Tools in jede agent…
★ 4.8k · agents
ai-agents-from-scratch
Entmystifiziere KI-Agenten, indem du sie selbst baust. Lokale LLMs, keine Black Boxes, echtes V…
★ 4.4k · ai-agents

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.