NanoLLM
Inferência local otimizada para LLMs com APIs semelhantes às da HuggingFace para quantização, modelos de visão/língua, agentes multimodais, fala, banco de dados vetorial e RAG.
Execute modelos de IA locais de forma eficiente com ferramentas fáceis de usar para várias tarefas, como processamento de fala e imagem.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserInferência local otimizada para LLMs com APIs semelhantes às da HuggingFace para quantização, modelos de visão/língua, agentes multimodais, fala, banco de dados vetorial e RAG.
NanoLLM tem 379 estrelas no GitHub. Foi bifurcado 66 vezes. NanoLLM é escrito principalmente em Python. Está em desenvolvimento ativo desde 2024. NanoLLM está disponível sob a licença MIT. Os seus principais temas são: edge-ai, llm-inference, multimodal, rag.
O que é NanoLLM?
Inferência local otimizada para LLMs com APIs semelhantes às da HuggingFace para quantização, modelos de visão/língua, agentes multimodais, fala, banco de dados vetorial e RAG.
NanoLLM é de código aberto?
NanoLLM é um projeto de código aberto. É distribuído sob a licença MIT.
NanoLLM é gratuito?
Sim. NanoLLM é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está NanoLLM?
NanoLLM está disponível sob a licença MIT.
Em que linguagem NanoLLM está escrito?
NanoLLM é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/dusty-nv-nanollm.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.