Home› Progetti› ServerlessLLM
ServerlessLLM
Python

ServerlessLLM

Servizio LLM senza server per tutti.

di ServerlessLLM · GitHub
711
Stelle
76
Fork
+10 questa settimana
Tendenze
Apache-2.0
Licenza
2024
Creato
3 mo ago
Ultimo commit
cuda
Categoria
Python
Lingua
cudahuggingface-transformerslarge-language-modelsApache-2.0Python
Visualizza su GitHub
In parole semplici

Distribuisci rapidamente e in modo conveniente più modelli di AI senza gestire server.

Mantieni questo progetto?

Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.

Rivendica questa pagina →
ServerlessLLM — GitHub preview card
📈 Storia delle stelle
711692
2026-07-202026-08-31
📈 Segui ServerlessLLM

Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.

Gratis · senza carta · disdici quando vuoi
Ricevi avvisi via email →
📄 Informazioni

Servizio LLM senza server per tutti.

ServerlessLLM ha 711 stelle su GitHub. È stato forkato 76 volte. ServerlessLLM è scritto principalmente in Python. È in sviluppo attivo dal 2024. ServerlessLLM è disponibile con licenza Apache-2.0. I suoi temi principali sono: cuda, huggingface-transformers, large-language-models, model-as-a-service.

❓ Frequently asked questions

Che cos'è ServerlessLLM?

Servizio LLM senza server per tutti.

ServerlessLLM è open source?

ServerlessLLM è un progetto open source. È rilasciato con licenza Apache-2.0.

ServerlessLLM è gratuito?

Sì. ServerlessLLM è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

Con quale licenza è ServerlessLLM?

ServerlessLLM è disponibile con licenza Apache-2.0.

In quale linguaggio è scritto ServerlessLLM?

ServerlessLLM è scritto principalmente in Python.

🏅 Manutentore di questo progetto?
olud.ai badge — ServerlessLLM

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![olud.ai](https://olud.ai/badge.php?tool=serverlessllm-serverlessllm)](https://olud.ai/project/serverlessllm-serverlessllm.html)
Altre opzioni di badge →
🧬 Condivide il DNA con🧬 Vedi la mappa del DNA →
torchrec
Libreria di dominio Pytorch per sistemi di raccomandazione
★ 2.6k · cuda
condividecudapytorch
chitu
Framework di inferenza ad alte prestazioni per modelli di linguaggio di grandi dimensioni, foca…
★ 3k · deepseek
condividemodel-servingpytorch
curobo
Libreria Robot Accelerata da CUDA
★ 1.7k · cuda
condividecudapytorch
vllm
Un motore di inferenza e servizio ad alta capacità e a basso consumo di memoria per LLM
★ 90.5k · amd
voicebox
Lo studio vocale AI open-source. Clona, dettato, crea.
★ 51.9k · ai
sglang
SGLang è un framework di serving ad alte prestazioni per modelli di linguaggio di grandi dimens…
★ 32.9k · attention
instant-ngp
Primitivi grafici neurali istantanei: NeRF lightning fast e altro
★ 17.5k · 3d-reconstruction
burn
Burn è una libreria tensoriale di nuova generazione e un framework di Deep Learning che non com…
★ 15.6k · autodiff
kaldi
kaldi-asr/kaldi è la posizione ufficiale del progetto Kaldi.
★ 15.4k · c-plus-plus
TensorRT-LLM
TensorRT LLM fornisce agli utenti un'API Python facile da usare per definire Modelli di Linguag…
★ 14.5k · blackwell

Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.