picollm ha 315 stelle su GitHub. È stato forkato 26 volte. picollm è scritto principalmente in Python. È in sviluppo attivo dal 2024. picollm è disponibile con licenza Apache-2.0. I suoi temi principali sono: compression, efficient-inference, gemma, generative-ai.

❓ Frequently asked questions

Che cos'è picollm?

Inferenza LLM on-device alimentata da quantizzazione X-Bit

picollm è open source?

picollm è un progetto open source. È rilasciato con licenza Apache-2.0.

picollm è gratuito?

Sì. picollm è gratuito e open source: puoi usarlo, modificarlo e ospitarlo autonomamente.

Con quale licenza è picollm?

picollm è disponibile con licenza Apache-2.0.

In quale linguaggio è scritto picollm?

picollm è scritto principalmente in Python.

🏅 Manutentore di questo progetto?

Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=picovoice-picollm)](https://opensourceai.tech/project/picovoice-picollm.html)

Altre opzioni di badge →

🧬 Condivide il DNA con🧬 Vedi la mappa del DNA →

KVQuant

[NeurIPS 2024] KVQuant: Verso 10 milioni di lunghezza di contesto LLM Inference con quantizzazi…

★ 431 · compression

condivideefficient-inferencemodel-compression

SqueezeLLM

[ICML 2024] SqueezeLLM: Quantizzazione densa e sparsa

★ 722 · efficient-inference

condivideefficient-inferencemodel-compression

kolosal-cli

Super leggera alternativa a Ollama + Qwen Code per eseguire Llama 3.3, DeepSeek-R1, Phi-4, Gemm…

★ 465 · agent

condividegemmallama3

Firefly

Firefly: Strumento di addestramento per grandi modelli, supporta l'addestramento di Qwen2.5, Qw…

★ 6.6k · alpaca

condividemixtralgemma

Kolosal

Kolosal AI è un'alternativa open-source e leggera a LM Studio per eseguire LLM al 100% offline…

★ 455 · c

condividegemmallama3

LLMCompiler

[ICML 2024] LLMCompiler: Un compilatore LLM per chiamate di funzione parallele

★ 1.9k · efficient-inference

condivideefficient-inferencellama2

Ollamac

App per Mac per Ollama

★ 1.9k · ai

condividemixtralllama3

elia

Un'interfaccia utente terminale centrata sulla tastiera per interagire con grandi modelli lingu…

★ 2.5k · ai

condividemixtralgemma

enchanted

Enchanted è un'app iOS e macOS per chattare con modelli linguistici privati auto-ospitati come…

★ 6k · ios

condividelarge-language-modelllama2

ollama

Inizia a utilizzare Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma e altri modelli…

★ 177k · deepseek

condividegemmallama3

Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.