swiftLLM
Un sistema di inferenza LLM piccolo ma potente, progettato per scopi di ricerca. Prestazioni equivalenti a vLLM con solo 2k righe di codice (2% di vLLM).
Esegui un sistema semplice per testare e ricercare modelli di linguaggio di grandi dimensioni con codice minimo.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiUn sistema di inferenza LLM piccolo ma potente, progettato per scopi di ricerca. Prestazioni equivalenti a vLLM con solo 2k righe di codice (2% di vLLM).
swiftLLM ha 329 stelle su GitHub. È stato forkato 37 volte. swiftLLM è scritto principalmente in Python. È in sviluppo attivo dal 2024. swiftLLM è disponibile con licenza Apache-2.0. I suoi temi principali sono: cuda, gpt, inference, inference-engine.
Che cos'è swiftLLM?
Un sistema di inferenza LLM piccolo ma potente, progettato per scopi di ricerca. Prestazioni equivalenti a vLLM con solo 2k righe di codice (2% di vLLM).
swiftLLM è open source?
swiftLLM è un progetto open source. È rilasciato con licenza Apache-2.0.
swiftLLM è gratuito?
Sì. swiftLLM è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è swiftLLM?
swiftLLM è disponibile con licenza Apache-2.0.
In quale linguaggio è scritto swiftLLM?
swiftLLM è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/interestinglsy-swiftllm.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.