Un Framework Flessibile per Sperimentare Inferenze/Fine-tuning Ottimizzazioni LLM Eterogenee
Usa un framework per eseguire e ottimizzare in modo efficiente grandi modelli di linguaggio sul tuo computer.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiUn Framework Flessibile per Sperimentare Inferenze/Fine-tuning Ottimizzazioni LLM Eterogenee
ktransformers ha 19.1k stelle su GitHub. È stato forkato 1.5k volte. ktransformers è scritto principalmente in Python. È in sviluppo attivo dal 2024. ktransformers è disponibile con licenza Apache-2.0.
Read the full guideUn Framework Flessibile per Sperimentare Inferenze/Fine-tuning Ottimizzazioni LLM Eterogenee
ktransformers è un progetto open source. È rilasciato con licenza Apache-2.0.
Sì. ktransformers è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
ktransformers è disponibile con licenza Apache-2.0.
ktransformers è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/kvcache-ai-ktransformers.html)