Open-Prompt-Injection
不活跃简介
为 LLM 提示注入攻击与防御提供全面基准测试的开源项目,系统评估不同攻击策略和防御机制的有效性。
为 LLM 提示注入攻击与防御提供全面基准测试的开源项目,系统评估不同攻击策略和防御机制的有效性。
Vigil 是一个 LLM 安全检测工具,能够识别提示注入、越狱攻击和其他潜在危险的 LLM 输入,通过多维度分析提供实时安全防护。
高级提示注入防御系统,支持多语言检测、严重性评分和安全审计,保护 AI 智能体免受恶意输入攻击。
一个包含 15,140 条 ChatGPT 提示词的数据集(含 1,405 条越狱提示词),来自 Reddit、Discord 等多平台,为 LLM 安全研究和越狱检测提供了大规模基准数据。
AI 智能体安全工具的开放基准测试,涵盖提示注入、数据泄露、工具滥用和来源追踪等安全维度的评估。