NanoLLM
Inferencia local optimizada para LLMs con APIs similares a HuggingFace para cuantización, modelos de visión/lenguaje, agentes multimodales, voz, base de datos vectorial y RAG.
Ejecuta modelos de IA locales de manera eficiente con herramientas fáciles de usar para diversas tareas como procesamiento de voz e imagen.
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
Recibe una alerta por correo en su próximo lanzamiento o cuando despegue — no te pierdas nada.
Gratis · sin tarjeta · cancela cuando quierasInferencia local optimizada para LLMs con APIs similares a HuggingFace para cuantización, modelos de visión/lenguaje, agentes multimodales, voz, base de datos vectorial y RAG.
NanoLLM tiene 379 estrellas en GitHub. Se ha bifurcado 66 veces. NanoLLM está escrito principalmente en Python. Se desarrolla activamente desde 2024. NanoLLM está disponible bajo la licencia MIT. Sus temas principales son: edge-ai, llm-inference, multimodal, rag.
¿Qué es NanoLLM?
Inferencia local optimizada para LLMs con APIs similares a HuggingFace para cuantización, modelos de visión/lenguaje, agentes multimodales, voz, base de datos vectorial y RAG.
¿NanoLLM es de código abierto?
NanoLLM es un proyecto de código abierto. Se distribuye bajo la licencia MIT.
¿NanoLLM es gratis?
Sí. NanoLLM es gratuito y de código abierto: puedes usarlo, modificarlo y alojarlo tú mismo.
¿Bajo qué licencia está NanoLLM?
NanoLLM está disponible bajo la licencia MIT.
¿En qué lenguaje está escrito NanoLLM?
NanoLLM está escrito principalmente en Python.
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://olud.ai/project/dusty-nv-nanollm.html)
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.