RAG Security Scanner
活跃简介
RAG/LLM 安全扫描器，用于识别 AI 应用中的关键漏洞，包括配置错误、数据泄露和访问控制缺陷。
相关项目
Giskard
5.3k · Python
开源 LLM Agent 评估与测试库，提供自动化模型扫描、偏见检测、性能基准测试和合规检查，帮助团队在部署前全面验证 AI Agent 质量。
evaluationtestingllm-safety +3
CKA-Agent
197 · Python
绕过商业 LLM 安全护栏的研究工具，用于评估和改进 LLM 安全防护机制的有效性。
llm-securityguardrails-testingred-teaming +2
Pytector
40 · Python
易用的 LLM 提示注入检测和输入净化 Python 包，支持多种检测方法和自定义规则。
prompt-injectiondetectionsanitization +2
LLM Jailbreaking Defense
60 · Python
轻量级 LLM 越狱防御库，提供多种防御策略来保护大语言模型免受越狱攻击。
jailbreak-defensellm-securitysafety +1