llm-safety
5 Projekte teilen dieses GitHub-Topic
Linien verbinden Mitglieder, die messbar miteinander verwandt sind. Die Punktgröße spiegelt die Sterne wider.
🧬 Mitglieder
Guardrails
NeMo Guardrails is an open-source toolkit for easily adding programmable guardrails to LLM-based…
★ 7.4k
deepteam
DeepTeam is a framework to red team LLMs and AI agents.
★ 3k · GitHub ↗
TrustLLM
[ICML 2024] TrustLLM: LLM trustworthiness evaluation across truthfulness, safety, fairness, robustness,…
★ 634
agent-safety-eval-lab
Agent trace and tool-use safety evaluation lab.
★ 323
awesome-llm-agent-papers
LLM agents: curated papers on planning, memory, tool use, multi-agent systems, evaluation, and safety.
★ 103 · GitHub ↗
🔗 Verwandte Familien
Gemessen anhand der von beiden Projekten geteilten GitHub-Themen, gewichtet nach der Seltenheit jedes Themas.