SwiftInfer tiene 478 estrellas en GitHub. Se ha bifurcado 31 veces. SwiftInfer está escrito principalmente en Python. Se desarrolla activamente desde 2024. SwiftInfer está disponible bajo la licencia Apache-2.0. Sus temas principales son: artificial-intelligence, deep-learning, gpt, inference.

❓ Frequently asked questions

¿Qué es SwiftInfer?

Inferencia y Servicio de IA Eficiente

¿SwiftInfer es de código abierto?

SwiftInfer es un proyecto de código abierto. Se distribuye bajo la licencia Apache-2.0.

¿SwiftInfer es gratis?

Sí. SwiftInfer es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.

¿Bajo qué licencia está SwiftInfer?

SwiftInfer está disponible bajo la licencia Apache-2.0.

¿En qué lenguaje está escrito SwiftInfer?

SwiftInfer está escrito principalmente en Python.

🏅 ¿Mantenedor de este proyecto?

Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=hpcaitech-swiftinfer)](https://opensourceai.tech/project/hpcaitech-swiftinfer.html)

Más opciones de distintivos →

🧬 Comparte ADN con🧬 Ver el mapa de ADN →

rtp-llm

RTP-LLM: El motor de inferencia LLM de alto rendimiento de Alibaba para diversas aplicaciones.

★ 1.3k · gpt

compartellm-servinginference

swiftLLM

Un sistema de inferencia LLM pequeño pero poderoso diseñado para fines de investigación. Rendim…

★ 330 · cuda

compartellm-servingllm-inference

llm-action

Este proyecto tiene como objetivo compartir principios técnicos y experiencias prácticas relaci…

★ 24.8k · llm

compartellm-servingllm-inference

llama2-webui

Ejecuta cualquier Llama 2 localmente con la interfaz gradio en GPU o CPU desde cualquier lugar…

★ 1.9k · llama-2

compartellama2llm-inference

ZhiLight

Un motor de aceleración de inferencia LLM altamente optimizado para Llama y sus variantes.

★ 907 · cuda

compartellm-servingllm-inference

lorax

Servidor de inferencia Multi-LoRA que escala a miles de LLMs ajustados finamente

★ 3.8k · fine-tuning

compartellm-servingllm-inference

JetStream

JetStream es un motor optimizado para rendimiento y memoria para inferencia de LLM en dispositi…

★ 451 · gemma

compartellama2llm-inference

LLM-FineTuning-Large-Language-Models

Ajuste Fino de LLM (Modelo de Lenguaje Grande)

★ 576 · gpt-3

compartellm-servingllama2

aici

AICI: Prompts como Programas (Wasm)

★ 2.1k · ai

compartellm-servingllm-inference

PowerInfer

Servicio de Modelos de Lenguaje Grande de alta velocidad para Despliegue Local

★ 9.7k · large-language-models

compartellm-inferencellama

Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.