Home Progetti inference
inference
Python

inference

Scambia GPT per qualsiasi LLM cambiando una sola riga di codice. Xinference ti consente di eseguire modelli open-source, di riconoscimento vocale e multimodali su cloud, on-prem o sul tuo laptop — tutto attraverso un'unica API di inferenza unificata e pronta per la produzione.

di xorbitsai · GitHub
Stelle
Fork
Licenza
Creato
Ultimo commit
Lingua
Probabile
Auto-ospitato
artificial-intelligencedeploymentdiffusersApache-2.0PythonAuto-ospitato
Visualizza su GitHub
In parole semplici

Esegui vari modelli AI per compiti di linguaggio e parlato sul tuo computer o nel cloud con una configurazione minima.

Mantieni questo progetto?

Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.

Rivendica questa pagina →
inference — GitHub preview card
📈 Storia delle stelle
10k9k
2026-07-042026-08-31
📈 Segui inference

Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.

Gratis · senza carta · disdici quando vuoi
Ricevi avvisi via email →
📄 Informazioni

Scambia GPT per qualsiasi LLM cambiando una sola riga di codice. Xinference ti consente di eseguire modelli open-source, di riconoscimento vocale e multimodali su cloud, on-prem o sul tuo laptop — tutto attraverso un'unica API di inferenza unificata e pronta per la produzione.

inference ha 9.5k stelle su GitHub. È stato forkato 866 volte. inference è scritto principalmente in Python. È in sviluppo attivo dal 2023. inference è disponibile con licenza Apache-2.0. I suoi temi principali sono: artificial-intelligence, deployment, diffusers, gemma.

Frequently asked questions

Che cos'è inference?

Scambia GPT per qualsiasi LLM cambiando una sola riga di codice. Xinference ti consente di eseguire modelli open-source, di riconoscimento vocale e multimodali su cloud, on-prem o sul tuo laptop — tutto attraverso un'unica API di inferenza unificata e pronta per la produzione.

inference è open source?

inference è un progetto open source. È rilasciato con licenza Apache-2.0.

inference è gratuito?

Sì. inference è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

Con quale licenza è inference?

inference è disponibile con licenza Apache-2.0.

In quale linguaggio è scritto inference?

inference è scritto principalmente in Python.

🏅 Manutentore di questo progetto?
olud.ai badge — inference

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![olud.ai](https://olud.ai/badge.php?tool=xorbitsai-inference)](https://olud.ai/project/xorbitsai-inference.html)
Altre opzioni di badge →
🧬 Condivide il DNA con🧬 Vedi la mappa del DNA →

Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.