Pytector
活跃简介
易用的 LLM 提示注入检测和输入净化 Python 包,支持多种检测方法和自定义规则。
易用的 LLM 提示注入检测和输入净化 Python 包,支持多种检测方法和自定义规则。
高速 AI Agent 信任层,提供提示注入检测、PII 过滤和内容安全防护等安全护栏功能。
面向 LLM 应用的轻量级提示注入检测工具,提供简单高效的输入安全验证。
开源 LLM API 安全网关,提供提示注入检测、PII 脱敏、危险响应过滤等安全防护。
通过二分类方法研究大语言模型安全性,对提示注入攻击进行检测和分类分析。