Motore di inferenza LLM su larga scala
Esegui modelli di linguaggio di grandi dimensioni in modo efficiente per più utenti, ottimizzando le prestazioni con tecnologia avanzata.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiMotore di inferenza LLM su larga scala
sonar ha 1.8k stelle su GitHub. È stato forkato 206 volte. sonar è scritto principalmente in C++. È in sviluppo attivo dal 2023. sonar è disponibile con licenza AGPL-3.0. I suoi temi principali sono: api-rest, cuda, inference-engine, inferentia.
Motore di inferenza LLM su larga scala
sonar è un progetto open source. È rilasciato con licenza AGPL-3.0.
Sì. sonar è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
sonar è disponibile con licenza AGPL-3.0.
sonar è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/dphnai-sonar.html)