willow-inference-server
Server di inferenza linguistica open source, locale e self-hosted altamente ottimizzato che supporta ASR/STT, TTS e LLM attraverso WebRTC, REST e WS
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiServer di inferenza linguistica open source, locale e self-hosted altamente ottimizzato che supporta ASR/STT, TTS e LLM attraverso WebRTC, REST e WS
willow-inference-server ha 510 stelle su GitHub. È stato forkato 60 volte. willow-inference-server è scritto principalmente in Python. È in sviluppo attivo dal 2023. willow-inference-server è disponibile con licenza Apache-2.0. I suoi temi principali sono: cuda, deep-learning, llama, llm.
Che cos'è willow-inference-server?
Server di inferenza linguistica open source, locale e self-hosted altamente ottimizzato che supporta ASR/STT, TTS e LLM attraverso WebRTC, REST e WS
willow-inference-server è open source?
willow-inference-server è un progetto open source. È rilasciato con licenza Apache-2.0.
willow-inference-server è gratuito?
Sì. willow-inference-server è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è willow-inference-server?
willow-inference-server è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto willow-inference-server?
willow-inference-server è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/toverainc-willow-inference-server.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.