Startseite› Projekte› FastDeploy
FastDeploy
Python

FastDeploy

Hochleistungs-Inferenz- und Bereitstellungstoolkit für LLMs und VLMs basierend auf PaddlePaddle

von PaddlePaddle · GitHub
3.7k
Sterne
760
Forks
+5 diese Woche
Trendend
Apache-2.0
Lizenz
2022
Erstellt
4 days ago
Letzter Commit
ernie
Kategorie
Python
Sprache
ernieernie-45ernie-45-vlApache-2.0Python
Auf GitHub ansehen
In einfachen Worten

Setzen Sie fortschrittliche KI-Modelle problemlos auf verschiedenen Hardware-Plattformen ein und führen Sie sie aus.

Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
FastDeploy — GitHub preview card
📈 Sternhistorie
3.71k3.70k
2026-07-072026-08-31
📈 FastDeploy verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

Hochleistungs-Inferenz- und Bereitstellungstoolkit für LLMs und VLMs basierend auf PaddlePaddle

FastDeploy hat 3.7k Sterne auf GitHub. Es wurde 760-mal geforkt. FastDeploy ist hauptsächlich in Python geschrieben. Es wird seit 2022 aktiv entwickelt. FastDeploy ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: ernie, ernie-45, ernie-45-vl, inference.

❓ Frequently asked questions

Was ist FastDeploy?

Hochleistungs-Inferenz- und Bereitstellungstoolkit für LLMs und VLMs basierend auf PaddlePaddle

Ist FastDeploy Open Source?

FastDeploy ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.

Ist FastDeploy kostenlos?

Ja. FastDeploy ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht FastDeploy?

FastDeploy ist unter der Apache-2.0-Lizenz verfügbar.

In welcher Sprache ist FastDeploy geschrieben?

FastDeploy ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — FastDeploy

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=paddlepaddle-fastdeploy)](https://olud.ai/project/paddlepaddle-fastdeploy.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
ERNIE
Das offizielle Repository für ERNIE 4.5 und ERNIEKit – sein industrietaugliches Entwicklungstoo…
★ 7.7k · ernie
teilternie-45ernie-45-vl
vllm-ascend
Von der Community gepflegtes Hardware-Plugin für vLLM auf Ascend
★ 2.7k · ascend
teiltllm-servingvllm
tiny-llm
Lernen Sie LLM-Inferenzsysteme auf Apple Silicon für Systemingenieure: bauen Sie ein Mini-vLLM…
★ 4.5k · course
teiltservingvllm
ChuanhuChatGPT
GUI für die ChatGPT-API und viele LLMs. Unterstützt Agenten, dateibasiertes QA, GPT-Finetuning…
★ 15.3k · chatbot
PaddleNLP
Einfache und leistungsstarke LLM- und SLM-Bibliothek mit fantastischem Modell-Zoo.
★ 13k · bert
awesome-pretrained-chinese-nlp-models
Tolle vortrainierte chinesische NLP-Modelle, hochwertige chinesische vortrainierte Modelle & gr…
★ 5.6k · bert
NLP-Knowledge-Graph
自然语言处理、知识图谱、对话系统，大模型等技术研究与应用。
★ 1.8k · agent
vllm
Eine hochdurchsatz- und speichereffiziente Inferenz- und Bereitstellungs-Engine für LLMs
★ 90.5k · amd
whisper.cpp
Portierung des Whisper-Modells von OpenAI in C/C++
★ 51.8k · inference
ColossalAI
Große AI-Modelle günstiger, schneller und zugänglicher machen.
★ 41.4k · ai

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.