JetStream
JetStream é um mecanismo otimizado para throughput e memória para inferência de LLM em dispositivos XLA, começando com TPUs (e GPUs no futuro -- PRs são bem-vindos).
Execute grandes modelos de linguagem em dispositivos TPU para processamento eficiente de dados textuais.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserJetStream é um mecanismo otimizado para throughput e memória para inferência de LLM em dispositivos XLA, começando com TPUs (e GPUs no futuro -- PRs são bem-vindos).
JetStream tem 456 estrelas no GitHub. Foi bifurcado 67 vezes. JetStream é escrito principalmente em Python. Está em desenvolvimento ativo desde 2024. JetStream está disponível sob a licença Apache-2.0. Os seus principais temas são: gemma, gpt, gpu, inference.
O que é JetStream?
JetStream é um mecanismo otimizado para throughput e memória para inferência de LLM em dispositivos XLA, começando com TPUs (e GPUs no futuro -- PRs são bem-vindos).
JetStream é de código aberto?
JetStream é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
JetStream é gratuito?
Sim. JetStream é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está JetStream?
JetStream está disponível sob a licença Apache-2.0.
Em que linguagem JetStream está escrito?
JetStream é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/ai-hypercomputer-jetstream.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.