inference
Troque GPT por qualquer LLM mudando uma única linha de código. Xinference permite que você execute modelos de código aberto, de fala e multimodais na nuvem, localmente ou no seu laptop — tudo através de uma API de inferência unificada e pronta para produção.
Execute vários modelos de IA para tarefas de linguagem e fala no seu próprio computador ou na nuvem com configuração mínima.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserTroque GPT por qualquer LLM mudando uma única linha de código. Xinference permite que você execute modelos de código aberto, de fala e multimodais na nuvem, localmente ou no seu laptop — tudo através de uma API de inferência unificada e pronta para produção.
inference tem 9.5k estrelas no GitHub. Foi bifurcado 850 vezes. inference é escrito principalmente em Python. Está em desenvolvimento ativo desde 2023. inference está disponível sob a licença Apache-2.0. Os seus principais temas são: artificial-intelligence, chatglm, deployment, flan-t5.
O que é inference?
Troque GPT por qualquer LLM mudando uma única linha de código. Xinference permite que você execute modelos de código aberto, de fala e multimodais na nuvem, localmente ou no seu laptop — tudo através de uma API de inferência unificada e pronta para produção.
inference é de código aberto?
inference é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
inference é gratuito?
Sim. inference é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está inference?
inference está disponível sob a licença Apache-2.0.
Em que linguagem inference está escrito?
inference é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/xorbitsai-inference.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.