ToolEmu
不活跃简介
ICLR 2024 Spotlight 论文项目,基于语言模型的仿真框架,用于识别具有工具使用能力的 LLM Agent 的潜在风险和安全隐患。
ICLR 2024 Spotlight 论文项目,基于语言模型的仿真框架,用于识别具有工具使用能力的 LLM Agent 的潜在风险和安全隐患。
NVIDIA NeMo Guardrails 是一个开源工具包,用于为基于 LLM 的对话系统添加可编程的安全护栏,支持话题控制、安全防护和对话引导。
开放的 Agent 控制平面,为自主 AI Agent 提供执行前策略强制、审批门禁和审计追踪,兼容 LangChain、CrewAI、MCP 等主流框架。
为 Ghidra 逆向工程平台提供 MCP 协议支持,让 AI Agent 能够自主进行二进制分析和漏洞发现。
Portkey AI Gateway 是一个高性能 AI 网关,支持路由到 200+ LLM 提供商,内置 50+ AI 安全护栏,提供统一 API 接口。