AI LLM Red Team Handbook
活跃简介
AI 与 LLM 红队测试实战手册，系统整理红队评估方法论、攻击技术和防御策略，是 AI 安全从业者的核心参考资源。
相关项目
FuzzyAI
1.4k · Jupyter Notebook
CyberArk 开源的 LLM 自动化模糊测试工具，帮助开发者和安全研究人员识别和缓解 LLM API 中的越狱漏洞，支持多种攻击向量和自动化测试流程。
fuzzingllm-securityjailbreak +2
Dropbox LLM Security
258 · Python
Dropbox 开源的 LLM 安全研究代码和成果，涵盖 LLM 安全测试方法、漏洞分析和防护策略。
llm-securityresearchvulnerability-analysis +2
AIGoat
53 · JavaScript
开源 AI 安全演练平台，提供覆盖 OWASP LLM Top 10 的实践实验室，帮助安全研究人员学习 LLM 红队测试技能。
ai-safetyred-teamingowasp +2
CKA-Agent
203 · Python
绕过商业 LLM 安全护栏的研究工具，用于评估和改进 LLM 安全防护机制的有效性。
llm-securityguardrails-testingred-teaming +2