NanoLLM
Optimierte lokale Inferenz für LLMs mit HuggingFace-ähnlichen APIs für Quantisierung, Vision-/Sprachmodelle, multimodale Agenten, Sprache, Vektor-DB und RAG.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarOptimierte lokale Inferenz für LLMs mit HuggingFace-ähnlichen APIs für Quantisierung, Vision-/Sprachmodelle, multimodale Agenten, Sprache, Vektor-DB und RAG.
NanoLLM hat 381 Sterne auf GitHub. Es wurde 66-mal geforkt. NanoLLM ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. NanoLLM ist unter der MIT-Lizenz verfügbar. Die Hauptthemen sind: edge-ai, llm-inference, multimodal, rag.
Was ist NanoLLM?
Optimierte lokale Inferenz für LLMs mit HuggingFace-ähnlichen APIs für Quantisierung, Vision-/Sprachmodelle, multimodale Agenten, Sprache, Vektor-DB und RAG.
Ist NanoLLM Open Source?
NanoLLM ist ein Open-Source-Projekt. Es wird unter der MIT-Lizenz veröffentlicht.
Ist NanoLLM kostenlos?
Ja. NanoLLM ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht NanoLLM?
NanoLLM ist unter der MIT-Lizenz verfügbar.
In welcher Sprache ist NanoLLM geschrieben?
NanoLLM ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/dusty-nv-nanollm.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.