JetStream
JetStream è un motore ottimizzato per throughput e memoria per l'inferenza LLM su dispositivi XLA, a partire da TPU (e GPU in futuro -- PR benvenuti).
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiJetStream è un motore ottimizzato per throughput e memoria per l'inferenza LLM su dispositivi XLA, a partire da TPU (e GPU in futuro -- PR benvenuti).
JetStream ha 451 stelle su GitHub. È stato forkato 67 volte. JetStream è scritto principalmente in Python. È in sviluppo attivo dal 2024. JetStream è disponibile con licenza Apache-2.0. I suoi temi principali sono: gemma, gpt, gpu, inference.
Che cos'è JetStream?
JetStream è un motore ottimizzato per throughput e memoria per l'inferenza LLM su dispositivi XLA, a partire da TPU (e GPU in futuro -- PR benvenuti).
JetStream è open source?
JetStream è un progetto open source. È rilasciato con licenza Apache-2.0.
JetStream è gratuito?
Sì. JetStream è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è JetStream?
JetStream è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto JetStream?
JetStream è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/ai-hypercomputer-jetstream.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.