Motor de inferência LLM em larga escala
Execute modelos de linguagem grandes de forma eficiente para múltiplos usuários, otimizando o desempenho com tecnologia avançada.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserMotor de inferência LLM em larga escala
sonar tem 1.8k estrelas no GitHub. Foi bifurcado 206 vezes. sonar é escrito principalmente em C++. Está em desenvolvimento ativo desde 2023. sonar está disponível sob a licença AGPL-3.0. Os seus principais temas são: api-rest, cuda, inference-engine, inferentia.
Motor de inferência LLM em larga escala
sonar é um projeto de código aberto. É distribuído sob a licença AGPL-3.0.
Sim. sonar é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
sonar está disponível sob a licença AGPL-3.0.
sonar é escrito principalmente em C++.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/dphnai-sonar.html)