Agent Governance Toolkit

活跃
GitHub Python MIT

简介

微软推出的 AI 智能体治理工具包，提供策略执行、零信任身份验证、执行沙箱和可靠性工程，覆盖 OWASP 智能体 Top 10 全部安全风险。

核心特性

  • 确定性策略执行引擎：在模型输出到达工具调用前拦截并评估所有操作，通过 YAML 策略文件定义允许/拒绝/需审批的规则，被拒绝的操作在结构上不可能执行
  • 零信任身份与审计追溯：为每个 Agent 分配唯一身份（DID），每次操作生成防篡改的审计记录，包含生效策略、请求内容和决策原因
  • 多语言 SDK 支持：提供 Python、TypeScript、.NET、Rust、Go 五种语言的 SDK，统一的策略评估接口覆盖主流开发栈
  • 沙箱隔离执行：Agent 的工具调用在受控沙箱中执行，限制文件系统访问、网络调用和数据库操作权限
  • OWASP Agentic Top 10 全覆盖：内置对 OWASP 智能体安全风险分类的完整覆盖，提供预置策略模板加速合规部署
  • MCP 协议集成：原生支持 Model Context Protocol，可作为 MCP 服务器为任何支持 MCP 的 AI 客户端提供治理能力

适用场景

💡 企业级 AI Agent 生产部署：为自主运行的 AI Agent 提供生产级别的安全策略执行和操作审计，满足金融、医疗等合规场景要求
💡 多 Agent 系统的权限管控：在多 Agent 协作场景中，精确控制每个 Agent 可调用的工具和可执行的操作范围
💡 安全红队测试与漏洞评估：结合 OWASP 框架对 AI 系统进行自动化攻击探测，量化攻击成功率（ASR）指标
💡 合规审计与监管报告：生成符合监管要求的操作日志和审计报告，证明 AI 系统的决策过程可控可追溯
💡 AI 应用安全开发生命周期集成：作为 CI/CD 流程中的安全门禁，在 Agent 部署前自动验证策略合规性

标签

security evaluation python agent observability

分类

📊 可观测性 🛡️ 安全护栏 🏗️ 沙箱执行

快速开始

安装：pip install agent-governance-toolkit[full]；两行代码治理任意工具函数：from agentmesh.governance import govern; safe_tool = govern(my_tool, policy="policy.yaml")；每次调用自动评估策略、记录决策，拒绝时抛出 GovernanceDenied 异常
访问 GitHub

相关项目