Startseite› Projekte› SwiftInfer
SwiftInfer

SwiftInfer

von hpcaitech · GitHub

Effiziente KI-Inferenz & Bereitstellung

# artificial-intelligence# deep-learning# gpt# inference# llama
Auf GitHub ansehen
⭐ Sterne
478
🍴 Forks
31
📜 Lizenz
Apache-2.0
Kommerzielle Nutzung erlaubt
📅 Erstellt
2024
🔄 Letzter Commit
2 yr ago
🏷️ Kategorie
artificial-intelligence
💻 Sprache
Python
🖥️ Selbst gehostet
Wahrscheinlich
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
SwiftInfer — GitHub preview card
📈 Sternhistorie
479478
2026-07-202026-07-29
📈 SwiftInfer verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

Effiziente KI-Inferenz & Bereitstellung

SwiftInfer hat 478 Sterne auf GitHub. Es wurde 31-mal geforkt. SwiftInfer ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. SwiftInfer ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: artificial-intelligence, deep-learning, gpt, inference.

❓ Frequently asked questions

Was ist SwiftInfer?

Effiziente KI-Inferenz & Bereitstellung

Ist SwiftInfer Open Source?

SwiftInfer ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.

Ist SwiftInfer kostenlos?

Ja. SwiftInfer ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht SwiftInfer?

SwiftInfer ist unter der Apache-2.0-Lizenz verfügbar.

In welcher Sprache ist SwiftInfer geschrieben?

SwiftInfer ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
OpenSourceAI badge — SwiftInfer

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=hpcaitech-swiftinfer)](https://opensourceai.tech/project/hpcaitech-swiftinfer.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
rtp-llm
RTP-LLM: Alibabas Hochleistungs-LLM-Inferenz-Engine für vielfältige Anwendungen.
★ 1.3k · gpt
teiltllm-servinginference
swiftLLM
Ein kleines, aber leistungsstarkes LLM-Inferenzsystem, das für Forschungszwecke maßgeschneidert…
★ 330 · cuda
teiltllm-servingllm-inference
llm-action
Dieses Projekt zielt darauf ab, technische Prinzipien und praktische Erfahrungen im Zusammenhan…
★ 24.8k · llm
teiltllm-servingllm-inference
llama2-webui
Führen Sie Llama 2 lokal mit der Gradio-Benutzeroberfläche auf GPU oder CPU von überall (Linux/…
★ 1.9k · llama-2
teiltllama2llm-inference
ZhiLight
Eine hochoptimierte LLM-Inferenzbeschleunigungsengine für Llama und seine Varianten.
★ 907 · cuda
teiltllm-servingllm-inference
lorax
Multi-LoRA-Inferenzserver, der auf Tausende von feinabgestimmten LLMs skaliert
★ 3.8k · fine-tuning
teiltllm-servingllm-inference
JetStream
JetStream ist eine durchsatz- und speicherooptimierte Engine für LLM-Inferenz auf XLA-Geräten,…
★ 451 · gemma
teiltllama2llm-inference
LLM-FineTuning-Large-Language-Models
LLM (Large Language Model) Feinabstimmung
★ 576 · gpt-3
teiltllm-servingllama2
aici
AICI: Eingabeaufforderungen als (Wasm) Programme
★ 2.1k · ai
teiltllm-servingllm-inference
PowerInfer
Hochgeschwindigkeits-Serving von großen Sprachmodellen für lokale Bereitstellung
★ 9.7k · large-language-models
teiltllm-inferencellama

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.