CKA-Agent
活跃简介
绕过商业 LLM 安全护栏的研究工具,用于评估和改进 LLM 安全防护机制的有效性。
绕过商业 LLM 安全护栏的研究工具,用于评估和改进 LLM 安全防护机制的有效性。
易用的 LLM 提示注入检测和输入净化 Python 包,支持多种检测方法和自定义规则。
NVIDIA 开源的 LLM 漏洞扫描器,可自动检测大语言模型中的安全漏洞、幻觉倾向、越狱风险和提示注入等安全问题,是 LLM 安全评估的核心工具。
腾讯开源的全栈 AI 红队平台,集成 OpenClaw 安全扫描、Agent 扫描、Skills 扫描、MCP 扫描、AI 基础设施扫描及 LLM 越狱评估能力。
轻量级 LLM 越狱防御库,提供多种防御策略来保护大语言模型免受越狱攻击。