Startseite› Projekte› LLMCompiler
LLMCompiler

LLMCompiler

von SqueezeAILab · GitHub

[ICML 2024] LLMCompiler: Ein LLM-Compiler für parallele Funktionsaufrufe

# efficient-inference# function-calling# large-language-models# llama# llama2
Auf GitHub ansehen
In einfachen Worten

Führen Sie mehrere Funktionen parallel mit KI-Modellen aus, um komplexe Probleme effizienter zu lösen.

⭐ Sterne
1.9k
🍴 Forks
134
🔥 Trendend
+7 diese Woche
📜 Lizenz
MIT
Kommerzielle Nutzung erlaubt
📅 Erstellt
2023
🔄 Letzter Commit
2 yr ago
🏷️ Kategorie
efficient-inference
💻 Sprache
Python
🖥️ Selbst gehostet
Wahrscheinlich
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
LLMCompiler — GitHub preview card
📈 Sternhistorie
1.87k1.86k
2026-07-202026-07-29
📈 LLMCompiler verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

[ICML 2024] LLMCompiler: Ein LLM-Compiler für parallele Funktionsaufrufe

LLMCompiler hat 1.9k Sterne auf GitHub. Es wurde 134-mal geforkt. LLMCompiler ist hauptsächlich in Python geschrieben. Es wird seit 2023 aktiv entwickelt. LLMCompiler ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: efficient-inference, function-calling, large-language-models, llama.

❓ Frequently asked questions

Was ist LLMCompiler?

[ICML 2024] LLMCompiler: Ein LLM-Compiler für parallele Funktionsaufrufe

Ist LLMCompiler Open Source?

LLMCompiler ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.

Ist LLMCompiler kostenlos?

Ja. LLMCompiler ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht LLMCompiler?

LLMCompiler ist unter der MIT-Lizenz verfügbar.

In welcher Sprache ist LLMCompiler geschrieben?

LLMCompiler ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
OpenSourceAI badge — LLMCompiler

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=squeezeailab-llmcompiler)](https://opensourceai.tech/project/squeezeailab-llmcompiler.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
llama-cpp-agent
Das llama-cpp-agent-Framework ist ein Tool, das für die einfache Interaktion mit großen Sprachm…
★ 651 · agents
teiltparallel-function-callllm-framework
langroid
Nutzen Sie LLMs mit Multi-Agenten-Programmierung
★ 4.1k · agents
teiltllm-frameworkfunction-calling
picollm
On-Device LLM-Inferenz, unterstützt durch X-Bit-Quantisierung
★ 315 · compression
teiltefficient-inferencellama2
SqueezeLLM
[ICML 2024] SqueezeLLM: Dichte- und spärliche Quantisierung.
★ 722 · efficient-inference
teiltefficient-inferencetransformer
PocketFlow-Tutorial-Codebase-Knowledge
Pocket Flow: Codebasis zu Tutorial
★ 12.6k · coding
teiltllm-frameworkllm-agents
EfficientFormer
EfficientFormerV2 [ICCV 2023] & EfficientFormer [NeurIPs 2022]
★ 1.1k · deep-learning
DeepCache
[CVPR 2024] DeepCache: Beschleunigung von Diffusionsmodellen kostenlos
★ 969 · diffusion-models
Awesome-Quantization-Papers
Liste von Arbeiten zur Quantisierung neuronaler Netzwerke in aktuellen KI-Konferenzen und -Zeit…
★ 838 · awesome-list
orthrus
Schnelle, verlustfreie LLM-Inferenz über Dual-View-Diffusionsdecodierung.
★ 461 · diffusion-language-models
KVQuant
[NeurIPS 2024] KVQuant: Auf dem Weg zu 10 Millionen Kontextlängen-LLM-Inferenz mit KV-Cache-Qua…
★ 431 · compression

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.