FuzzyAI
不活跃简介
CyberArk 开源的 LLM 自动化模糊测试工具，帮助开发者和安全研究人员识别和缓解 LLM API 中的越狱漏洞，支持多种攻击向量和自动化测试流程。
核心特性
- 全面的模糊测试技术——基于变异、基于生成和智能模糊测试，适用于 LLM API
- 多种攻击策略——包括默认攻击、ManyShot、Taxonomy、ArtPrompt 及其他越狱攻击向量
- 多提供商支持——兼容 OpenAI、Anthropic、Gemini、Azure、Bedrock、AI21、DeepSeek 和 Ollama
- REST API 模糊测试——使用可配置的 host、port 和 scheme 测试自定义 REST API 端点
- 内置 Web UI——实验性图形界面，用于交互式模糊测试会话
- 可扩展架构——轻松添加新模型、攻击类型和自定义分类器
适用场景
💡 LLM 安全审计——在将 AI 模型部署到生产环境之前识别越狱漏洞
💡 红队测试——自动化对抗测试 AI 系统对提示注入攻击的防御能力
💡 合规验证——验证 AI API 是否正确拒绝有害或违反策略的输入
💡 模型评估——针对已知攻击模式，基准测试不同 LLM 提供商的鲁棒性
优势与不足
✅ 优势
- • 社区热度高（1.6k stars）
- • 开源许可证友好（Apache-2.0）
- • Issue 响应及时，积压少
⚠️ 不足
- • 已超过 6 个月未更新
分类
快速开始
pip install git+https://github.com/cyberark/FuzzyAI.git → fuzzyai fuzz -h 查看帮助 → fuzzyai fuzz -m openai/gpt-4o -a def -t '你的测试提示' → 添加 -a man -a tax 使用多种攻击向量 → 使用 fuzzyai webui 启动图形界面