PowerInfer
Servizio di Modelli Linguistici di Grandi Dimensioni ad alta velocità per Distribuzione Locale
Esegui modelli di linguaggio di grandi dimensioni sul tuo dispositivo per una generazione di testo veloce.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiServizio di Modelli Linguistici di Grandi Dimensioni ad alta velocità per Distribuzione Locale
PowerInfer ha 9.7k stelle su GitHub. È stato forkato 588 volte. PowerInfer è scritto principalmente in C++. È in sviluppo attivo dal 2023. PowerInfer è disponibile con licenza MIT. I suoi temi principali sono: large-language-models, llama, llm, llm-inference.
Che cos'è PowerInfer?
Servizio di Modelli Linguistici di Grandi Dimensioni ad alta velocità per Distribuzione Locale
PowerInfer è open source?
PowerInfer è un progetto open source. È rilasciato con licenza MIT.
PowerInfer è gratuito?
Sì. PowerInfer è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è PowerInfer?
PowerInfer è disponibile con licenza MIT.
In quale linguaggio è scritto PowerInfer?
PowerInfer è scritto principalmente in C++.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/tiiny-ai-powerinfer.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.