Startseite Projekte picollm
picollm
Python

picollm

On-Device LLM-Inferenz, unterstützt durch X-Bit-Quantisierung

von Picovoice · GitHub
Sterne
Forks
Erstellt
Letzter Commit
Kategorie
Sprache
Wahrscheinlich
Selbst gehostet
compressionefficient-inferencegemmaApache-2.0PythonSelbst gehostet
Auf GitHub ansehen
In einfachen Worten

Führen Sie Sprachmodelle auf Ihrem Gerät aus, ohne eine Internetverbindung zu benötigen, und halten Sie Ihre Daten privat.

Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
picollm — GitHub preview card
📈 Sternhistorie
317314
2026-07-202026-08-31
📈 picollm verfolgen

Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.

Kostenlos · ohne Karte · jederzeit abbestellbar
E-Mail-Alerts erhalten →
📄 Über

On-Device LLM-Inferenz, unterstützt durch X-Bit-Quantisierung

picollm hat 317 Sterne auf GitHub. Es wurde 26-mal geforkt. picollm ist hauptsächlich in Python geschrieben. Es wird seit 2024 aktiv entwickelt. picollm ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: compression, efficient-inference, gemma, generative-ai.

Frequently asked questions

Was ist picollm?

On-Device LLM-Inferenz, unterstützt durch X-Bit-Quantisierung

Ist picollm Open Source?

picollm ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.

Ist picollm kostenlos?

Ja. picollm ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.

Unter welcher Lizenz steht picollm?

picollm ist unter der Apache-2.0-Lizenz verfügbar.

In welcher Sprache ist picollm geschrieben?

picollm ist hauptsächlich in Python geschrieben.

🏅 Wartender dieses Projekts?
olud.ai badge — picollm

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![olud.ai](https://olud.ai/badge.php?tool=picovoice-picollm)](https://olud.ai/project/picovoice-picollm.html)
Weitere Abzeichenoptionen →
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →

Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.