AgentList
首页项目文章关于
探索项目
首页项目文章关于
探索项目
项目 Rebuff

Rebuff

不活跃
GitHub TypeScript Apache-2.0

简介

针对 LLM 的提示词注入检测器,结合启发式规则、向量相似度和语言模型多重防御策略,有效识别和阻止恶意提示注入攻击。

标签

security llm testing prompt-engineering typescript

分类

📊 可观测性 🛡️ 安全护栏
访问 GitHub 访问官网

项目指标

Stars 1.5k
Forks 136
Watchers 1.5k
Issues 33
创建时间 2023年4月24日
最近提交 2024年8月7日

部署方式

本地部署

相关项目

LLM Guard

3.0k · Python
不活跃

LLM 交互安全工具包,提供提示词注入检测、敏感信息脱敏、内容安全审计等防护能力,保障生产环境 LLM 调用的安全性。

securityllmpython +2

AgentShield

773 · TypeScript
活跃

AI Agent安全扫描器,可检测Agent配置、MCP服务器和工具权限中的安全漏洞,支持CLI、GitHub Action和GitHub App集成。

typescriptsecurityllm +2

Purple Llama

4.2k · Python
活跃

Meta 推出的 LLM 安全评估工具集,提供安全基准测试、提示注入检测和输出审核等功能,帮助评估和提升大型语言模型的安全性。

securityevaluationpython +2

Promptfoo

21.8k · TypeScript
活跃

LLM 提示和 Agent 测试评估工具,用于测试提示词、Agent 和 RAG 管道,内置红队测试和安全评估功能。

testingevaluationred-teaming +2
AgentList

AgentList 是最全面的 AI Agent 开源项目导航站,发现、对比 LangChain、CrewAI 等顶级 Agent 框架,助力开发者选择最佳工具。

快速链接

  • 项目列表
  • 精选文章
  • 分类浏览

联系我们

  • 关于我们
  • 隐私政策
  • 联系我们

© 2026 AgentList. 保留所有权利。

Made with for the open source community