NanoLLM
Inferenza locale ottimizzata per LLM con API simili a HuggingFace per quantizzazione, modelli visivi/language, agenti multimodali, voce, DB vettoriale e RAG.
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
Ricevi un avviso via email alla prossima release o quando decolla — non perderti nulla.
Gratis · senza carta · disdici quando vuoiInferenza locale ottimizzata per LLM con API simili a HuggingFace per quantizzazione, modelli visivi/language, agenti multimodali, voce, DB vettoriale e RAG.
NanoLLM ha 381 stelle su GitHub. È stato forkato 66 volte. NanoLLM è scritto principalmente in Python. È in sviluppo attivo dal 2024. NanoLLM è disponibile con licenza MIT. I suoi temi principali sono: edge-ai, llm-inference, multimodal, rag.
Che cos'è NanoLLM?
Inferenza locale ottimizzata per LLM con API simili a HuggingFace per quantizzazione, modelli visivi/language, agenti multimodali, voce, DB vettoriale e RAG.
NanoLLM è open source?
NanoLLM è un progetto open source. È rilasciato con licenza MIT.
NanoLLM è gratuito?
Sì. NanoLLM è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.
Con quale licenza è NanoLLM?
NanoLLM è disponibile con licenza MIT.
In quale linguaggio è scritto NanoLLM?
NanoLLM è scritto principalmente in Python.
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://olud.ai/project/dusty-nv-nanollm.html)
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.