Início› Projetos› SwiftInfer
SwiftInfer

SwiftInfer

por hpcaitech · GitHub

Inferência e Servição de IA Eficiente

# artificial-intelligence# deep-learning# gpt# inference# llama
Ver no GitHub
⭐ Estrelas
478
🍴 Forks
31
📜 Licença
Apache-2.0
Uso comercial permitido
📅 Criado
2024
🔄 Último commit
2 yr ago
🏷️ Categoria
artificial-intelligence
💻 Linguagem
Python
🖥️ Auto-hospedável
Provável
Mantem este projeto?

Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.

Reivindicar esta pagina →
SwiftInfer — GitHub preview card
📈 Histórico de estrelas
479478
2026-07-202026-07-29
📈 Acompanhe SwiftInfer

Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.

Grátis · sem cartão · cancele quando quiser
Receber alertas por e-mail →
📄 Sobre

Inferência e Servição de IA Eficiente

SwiftInfer tem 478 estrelas no GitHub. Foi bifurcado 31 vezes. SwiftInfer é escrito principalmente em Python. Está em desenvolvimento ativo desde 2024. SwiftInfer está disponível sob a licença Apache-2.0. Os seus principais temas são: artificial-intelligence, deep-learning, gpt, inference.

❓ Frequently asked questions

O que é SwiftInfer?

Inferência e Servição de IA Eficiente

SwiftInfer é de código aberto?

SwiftInfer é um projeto de código aberto. É distribuído sob a licença Apache-2.0.

SwiftInfer é gratuito?

Sim. SwiftInfer é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.

Sob que licença está SwiftInfer?

SwiftInfer está disponível sob a licença Apache-2.0.

Em que linguagem SwiftInfer está escrito?

SwiftInfer é escrito principalmente em Python.

🏅 Mantenedor deste projeto?
OpenSourceAI badge — SwiftInfer

Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=hpcaitech-swiftinfer)](https://opensourceai.tech/project/hpcaitech-swiftinfer.html)
Mais opções de badge →
🧬 Partilha ADN com🧬 Ver o mapa de ADN →
rtp-llm
RTP-LLM: O motor de inferência LLM de alto desempenho da Alibaba para aplicações diversas.
★ 1.3k · gpt
partilhallm-servinginference
swiftLLM
Um sistema de inferência LLM pequeno, mas poderoso, adaptado para fins de pesquisa. Desempenho…
★ 330 · cuda
partilhallm-servingllm-inference
llm-action
Este projeto visa compartilhar princípios técnicos e experiências práticas relacionadas a grand…
★ 24.8k · llm
partilhallm-servingllm-inference
llama2-webui
Execute qualquer Llama 2 localmente com a interface gradio em GPU ou CPU de qualquer lugar (Lin…
★ 1.9k · llama-2
partilhallama2llm-inference
ZhiLight
Um motor de aceleração de inferência LLM altamente otimizado para Llama e suas variantes.
★ 907 · cuda
partilhallm-servingllm-inference
lorax
Servidor de inferência Multi-LoRA que escala para milhares de LLMs ajustados
★ 3.8k · fine-tuning
partilhallm-servingllm-inference
JetStream
JetStream é um mecanismo otimizado para throughput e memória para inferência de LLM em disposit…
★ 451 · gemma
partilhallama2llm-inference
LLM-FineTuning-Large-Language-Models
Ajuste Fino de LLM (Modelo de Linguagem Grande)
★ 576 · gpt-3
partilhallm-servingllama2
aici
AICI: Prompts como Programas (Wasm)
★ 2.1k · ai
partilhallm-servingllm-inference
PowerInfer
Serviço de Modelo de Linguagem Grande de alta velocidade para Implantação Local
★ 9.7k · large-language-models
partilhallm-inferencellama

Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.