willow-inference-server
Servidor de inferência de linguagem altamente otimizado, open source, local e auto-hospedado, suportando ASR/STT, TTS e LLM através de WebRTC, REST e WS
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserServidor de inferência de linguagem altamente otimizado, open source, local e auto-hospedado, suportando ASR/STT, TTS e LLM através de WebRTC, REST e WS
willow-inference-server tem 510 estrelas no GitHub. Foi bifurcado 60 vezes. willow-inference-server é escrito principalmente em Python. Está em desenvolvimento ativo desde 2023. willow-inference-server está disponível sob a licença Apache-2.0. Os seus principais temas são: cuda, deep-learning, llama, llm.
O que é willow-inference-server?
Servidor de inferência de linguagem altamente otimizado, open source, local e auto-hospedado, suportando ASR/STT, TTS e LLM através de WebRTC, REST e WS
willow-inference-server é de código aberto?
willow-inference-server é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
willow-inference-server é gratuito?
Sim. willow-inference-server é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está willow-inference-server?
willow-inference-server está disponível sob a licença Apache-2.0.
Em que linguagem willow-inference-server está escrito?
willow-inference-server é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/toverainc-willow-inference-server.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.