Startseite› Projekte› lmdeploy
lmdeploy

lmdeploy

von InternLM · GitHub

LMDeploy ist ein Toolkit zum Komprimieren, Bereitstellen und Bereitstellen von LLMs.

# codellama# cuda-kernels# deepspeed# fastertransformer# internlm
Auf GitHub ansehen
In einfachen Worten

Komprimieren und bereitstellen Sie große Sprachmodelle für eine effiziente Nutzung in Anwendungen.

⭐ Sterne
8k
🍴 Forks
717
🔥 Trendend
+11 diese Woche
📜 Lizenz
Apache-2.0
Kommerzielle Nutzung erlaubt
📅 Erstellt
2023
🔄 Letzter Commit
today
🏷️ Kategorie
codellama
💻 Sprache
Python
🖥️ Selbst gehostet
Wahrscheinlich
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
lmdeploy — GitHub preview card
📈 Sternhistorie
8.0k7.9k
2026-07-042026-07-29
📈 lmdeploy verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

LMDeploy ist ein Toolkit zum Komprimieren, Bereitstellen und Bereitstellen von LLMs.

lmdeploy hat 8k Sterne auf GitHub. Es wurde 717-mal geforkt. lmdeploy ist hauptsächlich in Python geschrieben. Es wird seit 2023 aktiv entwickelt. lmdeploy ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: codellama, cuda-kernels, deepspeed, fastertransformer.

Read the full guide
❓ Frequently asked questions

Was ist lmdeploy?

LMDeploy ist ein Toolkit zum Komprimieren, Bereitstellen und Bereitstellen von LLMs.

Ist lmdeploy Open Source?

lmdeploy ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.

Ist lmdeploy kostenlos?

Ja. lmdeploy ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht lmdeploy?

lmdeploy ist unter der Apache-2.0-Lizenz verfügbar.

In welcher Sprache ist lmdeploy geschrieben?

lmdeploy ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
OpenSourceAI badge — lmdeploy

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=internlm-lmdeploy)](https://opensourceai.tech/project/internlm-lmdeploy.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
SwiftInfer
Effiziente KI-Inferenz & Bereitstellung
★ 478 · artificial-intelligence
teiltllama2llm-inference
distributed-llama
Verteilte LLM-Inferenz. Verbinde Heimgeräte zu einem leistungsstarken Cluster, um die LLM-Infer…
★ 3k · distributed-computing
teiltllama3llama2
llama-gpt
Ein selbstgehosteter, offline ChatGPT-ähnlicher Chatbot. Angetrieben von Llama 2. 100% privat,…
★ 10.9k · ai
dfdx
Deep Learning in Rust, mit formgeprüften Tensoren und neuronalen Netzwerken
★ 1.9k · autodiff
CUDA-L2
CUDA-L2: Übertreffen der cuBLAS-Leistung für Matrixmultiplikation durch Reinforcement Learning
★ 467 · cublas
safe-rlhf
Safe RLHF: Eingeschränkte Wertausrichtung durch sicheres Verstärkungslernen aus menschlichem Fe…
★ 1.6k · ai-safety
KnowLM
Ein Open-Source-Wissensträchtiges Framework für große Sprachmodelle.
★ 1.4k · bilingual
MPP-LLaVA
Persönliches Projekt: MPP-Qwen14B & MPP-Qwen-Next (Multimodale Pipeline Parallel basierend auf…
★ 685 · deepspeed
LLaMA-Cult-and-More
Große Sprachmodelle für alle, 🦙 Kult und mehr, bleib in Kontakt!
★ 449 · alpaca
Firefly
Firefly: Großmodell-Trainingswerkzeug, unterstützt das Training von Qwen2.5, Qwen2, Yi1.5, Phi-…
★ 6.6k · alpaca

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.