AgentList
首页项目文章关于
探索项目
首页项目文章关于
探索项目
项目 ToolEmu

ToolEmu

不活跃
GitHub Python Apache-2.0

简介

ICLR 2024 Spotlight 论文项目,基于语言模型的仿真框架,用于识别具有工具使用能力的 LLM Agent 的潜在风险和安全隐患。

标签

emulation risk-assessment tool-use safety iclr

分类

🛡️ 安全护栏 ⚡ Agent 工具
访问 GitHub 访问官网

项目指标

Stars 202
Forks 22
Watchers 202
Issues 2
创建时间 2023年9月26日
最近提交 2024年3月22日

部署方式

本地部署

相关项目

NeMo Guardrails

6.1k · Python
活跃

NVIDIA NeMo Guardrails 是一个开源工具包,用于为基于 LLM 的对话系统添加可编程的安全护栏,支持话题控制、安全防护和对话引导。

guardrailsllm-safetynvidia +2

Cordum

475 · Go
活跃

开放的 Agent 控制平面,为自主 AI Agent 提供执行前策略强制、审批门禁和审计追踪,兼容 LangChain、CrewAI、MCP 等主流框架。

governanceagent-controlpolicy-enforcement +2

GhidraMCP

8.8k · Java
不活跃

为 Ghidra 逆向工程平台提供 MCP 协议支持,让 AI Agent 能够自主进行二进制分析和漏洞发现。

mcpreverse-engineeringghidra +2

Portkey AI Gateway

11.7k · TypeScript
正常

Portkey AI Gateway 是一个高性能 AI 网关,支持路由到 200+ LLM 提供商,内置 50+ AI 安全护栏,提供统一 API 接口。

gatewayllm-routingguardrails +2
AgentList

AgentList 是最全面的 AI Agent 开源项目导航站,发现、对比 LangChain、CrewAI 等顶级 Agent 框架,助力开发者选择最佳工具。

快速链接

  • 项目列表
  • 精选文章
  • 分类浏览

联系我们

  • 关于我们
  • 隐私政策
  • 联系我们

© 2026 AgentList. 保留所有权利。

Made with for the open source community