Home Progetti H2O
H2O
Python

H2O

[NeurIPS'23] H2O: Heavy-Hitter Oracle per un'inferenza generativa efficiente di modelli di linguaggio di grandi dimensioni.

di FMInference · GitHub
Stelle
Fork
Creato
Ultimo commit
Categoria
Lingua
gpt-3heavy-hittershigh-throughputPython
Visualizza su GitHub
In parole semplici

Esegui modelli di linguaggio di grandi dimensioni in modo più efficiente per generare contenuti lunghi come dialoghi e storie.

Mantieni questo progetto?

Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.

Rivendica questa pagina →
H2O — GitHub preview card
📈 Storia delle stelle
532528
2026-07-202026-08-31
📈 Segui H2O

Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.

Gratis · senza carta · disdici quando vuoi
Ricevi avvisi via email →
📄 Informazioni

[NeurIPS'23] H2O: Heavy-Hitter Oracle per un'inferenza generativa efficiente di modelli di linguaggio di grandi dimensioni.

H2O ha 532 stelle su GitHub. È stato forkato 89 volte. H2O è scritto principalmente in Python. È in sviluppo attivo dal 2023. I suoi temi principali sono: gpt-3, heavy-hitters, high-throughput, kv-cache.

Frequently asked questions

Che cos'è H2O?

[NeurIPS'23] H2O: Heavy-Hitter Oracle per un'inferenza generativa efficiente di modelli di linguaggio di grandi dimensioni.

H2O è open source?

H2O è un progetto open source.

H2O è gratuito?

Sì. H2O è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

In quale linguaggio è scritto H2O?

H2O è scritto principalmente in Python.

🏅 Manutentore di questo progetto?
olud.ai badge — H2O

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![olud.ai](https://olud.ai/badge.php?tool=fminference-h2o)](https://olud.ai/project/fminference-h2o.html)
Altre opzioni di badge →
🧬 Progetti correlati🧬 Vedi la mappa del DNA →