MNN
MNN: Eine blitzschnelle, leichte Inferenz-Engine, die von Alibaba auf Herz und Nieren getestet wurde und leistungsstarke On-Device-LLMs und Edge AI antreibt.
Führen Sie KI-Modelle schnell und effizient auf Ihrem Gerät aus, selbst auf Hardware mit geringer Leistung.
Aus der README
- Optimized for devices, no dependencies, can be easily deployed to mobile devices and a variety of embedded devices.
- iOS platform: static library size will full option for armv7+arm64 platforms is about 12MB, size increase of linked executables is about 2M.
- Android platform: core so size is about 800KB (armv7a - c++shared).
- Using MNNBUILDMINI can reduce package size by about 25%, with a limit of fixed model input size
- Support FP16 / Int8 quantize, can reduce model size 50%-70%
Auszüge aus der Projekt-README zu GitHub. Das Urheberrecht und die Lizenzen verbleiben bei den jeweiligen Autoren.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarMNN: Eine blitzschnelle, leichte Inferenz-Engine, die von Alibaba auf Herz und Nieren getestet wurde und leistungsstarke On-Device-LLMs und Edge AI antreibt.
MNN hat 16k Sterne auf GitHub. Es wurde 2.4k-mal geforkt. MNN ist hauptsächlich in C++ geschrieben. Es wird seit 2019 aktiv entwickelt. MNN ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: arm, convolution, deep-learning, embedded-devices.
Was ist MNN?
MNN: Eine blitzschnelle, leichte Inferenz-Engine, die von Alibaba auf Herz und Nieren getestet wurde und leistungsstarke On-Device-LLMs und Edge AI antreibt.
Ist MNN Open Source?
MNN ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist MNN kostenlos?
Ja. MNN ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht MNN?
MNN ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist MNN geschrieben?
MNN ist hauptsächlich in C++ geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/alibaba-mnn.html)
