Home› Progetti› SwiftInfer
SwiftInfer

SwiftInfer

di hpcaitech · GitHub

Inferenza e Servizio AI Efficienti

# artificial-intelligence# deep-learning# gpt# inference# llama
Visualizza su GitHub
⭐ Stelle
478
🍴 Fork
31
📜 Licenza
Apache-2.0
Uso commerciale consentito
📅 Creato
2024
🔄 Ultimo commit
2 yr ago
🏷️ Categoria
artificial-intelligence
💻 Lingua
Python
🖥️ Auto-ospitato
Probabile
Mantieni questo progetto?

Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.

Rivendica questa pagina →
SwiftInfer — GitHub preview card
📈 Storia delle stelle
479478
2026-07-202026-07-29
📈 Segui SwiftInfer

Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.

Gratis · senza carta · disdici quando vuoi
Ricevi avvisi via email →
📄 Informazioni

Inferenza e Servizio AI Efficienti

SwiftInfer ha 478 stelle su GitHub. È stato forkato 31 volte. SwiftInfer è scritto principalmente in Python. È in sviluppo attivo dal 2024. SwiftInfer è disponibile con licenza Apache-2.0. I suoi temi principali sono: artificial-intelligence, deep-learning, gpt, inference.

❓ Frequently asked questions

Che cos'è SwiftInfer?

Inferenza e Servizio AI Efficienti

SwiftInfer è open source?

SwiftInfer è un progetto open source. È rilasciato con licenza Apache-2.0.

SwiftInfer è gratuito?

Sì. SwiftInfer è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

Con quale licenza è SwiftInfer?

SwiftInfer è disponibile con licenza Apache-2.0.

In quale linguaggio è scritto SwiftInfer?

SwiftInfer è scritto principalmente in Python.

🏅 Manutentore di questo progetto?
OpenSourceAI badge — SwiftInfer

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=hpcaitech-swiftinfer)](https://opensourceai.tech/project/hpcaitech-swiftinfer.html)
Altre opzioni di badge →
🧬 Condivide il DNA con🧬 Vedi la mappa del DNA →
rtp-llm
RTP-LLM: il motore di inferenza LLM ad alte prestazioni di Alibaba per applicazioni diverse.
★ 1.3k · gpt
condividellm-servinginference
swiftLLM
Un sistema di inferenza LLM piccolo ma potente, progettato per scopi di ricerca. Prestazioni eq…
★ 330 · cuda
condividellm-servingllm-inference
llm-action
Questo progetto mira a condividere principi tecnici e esperienze pratiche relative ai grandi mo…
★ 24.8k · llm
condividellm-servingllm-inference
llama2-webui
Esegui qualsiasi Llama 2 localmente con l'interfaccia gradio su GPU o CPU da qualsiasi luogo (L…
★ 1.9k · llama-2
condividellama2llm-inference
ZhiLight
Un motore di accelerazione per inferenza LLM altamente ottimizzato per Llama e le sue varianti.
★ 907 · cuda
condividellm-servingllm-inference
lorax
Server di inferenza Multi-LoRA che scala fino a 1000 LLM fine-tuned
★ 3.8k · fine-tuning
condividellm-servingllm-inference
JetStream
JetStream è un motore ottimizzato per throughput e memoria per l'inferenza LLM su dispositivi X…
★ 451 · gemma
condividellama2llm-inference
LLM-FineTuning-Large-Language-Models
LLM (Large Language Model) FineTuning
★ 576 · gpt-3
condividellm-servingllama2
aici
AICI: Prompts come programmi (Wasm)
★ 2.1k · ai
condividellm-servingllm-inference
PowerInfer
Servizio di Modelli Linguistici di Grandi Dimensioni ad alta velocità per Distribuzione Locale
★ 9.7k · large-language-models
condividellm-inferencellama

Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.