首页项目文章PK榜关于
探索项目

PromptMap

不活跃
GitHub Python GPL-3.0

简介

面向自定义 LLM 应用的自动化提示词注入扫描器，支持白盒与黑盒两类测试模式。

核心特性

  • 双 LLM 架构 — 目标 LLM 被测，独立控制器 LLM 判定攻击是否成功
  • 白盒测试 — 提供 system prompt 与模型信息后由 promptmap 自行驱动目标 LLM 测试
  • 黑盒测试 — 通过轻量 YAML 配置指向外部 HTTP 端点发起攻击请求并解析返回
  • 50+ 预置规则 — 覆盖提示词窃取、越狱、有害内容、偏见等六大类
  • 多模型支持 — OpenAI、Anthropic、Google Gemini、xAI Grok 以及 Ollama 本地模型
  • 自定义规则 — 基于 YAML 的规则文件，按条件判定通过/失败

适用场景

💡 上线前对自研 ChatGPT 应用做提示词注入红队测试
💡 对接 CI 流水线，在每次模型/提示词更新后跑回归安全扫描
💡 安全团队对内部多个 LLM 端点做黑盒漏洞评估

优势与不足

✅ 优势

  • • 社区热度高（1.2k stars）
  • • 项目有一定历史沉淀（已维护 3 年）
  • • Issue 响应及时，积压少

⚠️ 不足

  • • 已超过 8 个月未更新
  • • 许可证限制较多（GPL-3.0）

标签

prompt-injection red-team llm-security scanner testing

分类

🛡️ 安全护栏

快速开始

# 克隆并安装依赖
git clone https://github.com/utkusen/promptmap.git && cd promptmap
pip install -r requirements.txt
# 设置目标与控制器 LLM 的 API Key
export OPENAI_API_KEY="your-openai-key"
# 运行白盒扫描（提供 system prompt）
python promptmap.py --white-box
访问 GitHub

相关项目