AgentFence
不活跃简介
开源 AI Agent 安全自动测试平台,可识别提示注入、密钥泄露和系统指令暴露等安全漏洞,帮助团队在部署前发现 Agent 风险。
开源 AI Agent 安全自动测试平台,可识别提示注入、密钥泄露和系统指令暴露等安全漏洞,帮助团队在部署前发现 Agent 风险。
简单高效的提示注入测试工具包,用于评估和利用 LLM 应用中的提示注入漏洞,帮助安全团队快速验证防御效果。
面向 AI 安全研究者的浏览器扩展,简化跨多个 LLM 提供商的越狱测试和漏洞发现流程,支持 Firefox 和 Chromium。
1Password 开源的安全意识基准测试工具,通过真实的多轮工作任务测试 AI Agent 的安全意识水平,帮助评估 Agent 在职场场景中的安全风险。
开源 AI 安全演练平台,提供覆盖 OWASP LLM Top 10 的实践实验室,帮助安全研究人员学习 LLM 红队测试技能。