Python

Guidance

Wechsel zwischen Kontrolle und Generierung

von guidance-ai · MIT

Aus der README

Installieren

pip install guidance

Auszüge aus der Projekt-README zu GitHub. Das Urheberrecht und die Lizenzen verbleiben bei den jeweiligen Autoren.

Was ist Guidance?

Guidance ist ein Programmierparadigma zur Steuerung von LLMs, das Kontrollfluss mit Generierung verknüpft, mit eingeschränkter Dekodierung und reichhaltiger Vorlagenbildung.

Warum Menschen sich für Guidance entscheiden

• Feine Kontrolle, die mit der Generierung verknüpft ist
• Eingeschränkte Dekodierung reduziert Token-Verschwendung
• Funktioniert mit lokalen und gehosteten Modellen

Guidance auf einen Blick

Open-Source-Alternativen zu Guidance

Weitere Open-Source-LLM/RAG-Framework-Tools, die einen Vergleich wert sind:

LangChainKetten, Tools und Agenten erstellenLlamaIndexDas Datenframework für RAGHaystackProduktionspipelines für Suche und RAGDSPyProgrammiersprache — nicht Eingabeaufforderung — für ModelletxtaiAll-in-one Embeddings-DatenbankRAGFlowTiefes Dokumentenverständnis RAGSemantic KernelMicrosofts Unternehmensagenten-FrameworkGraphRAGRAG, das zuerst ein Wissensgraph erstelltLiteLLMEine API für über 100 LLM-AnbieterInstructorZuverlässige strukturierte Ausgaben von LLMsOutlinesGarantiert gültiges JSON und GrammatikenLLMWareEnterprise RAG mit kleinen spezialisierten ModellenFlashRankUltra-leichtes Reranking für besseres RAGSentence TransformersDer Standardweg zur Erstellung von EmbeddingsRagasMessen Sie, ob Ihr RAG gut istPromptfooUnit-Tests für Ihre EingabeaufforderungenLangfuseSehen Sie, was Ihre LLM-App tatsächlich gemacht hatPhoenixVerfolgen, bewerten und debuggen Sie LLM-Apps

Guidance im direkten Vergleich

Häufig gestellte Fragen