MemAgent
正常简介
可扩展至 350 万上下文 token 的记忆智能体框架，附带用于任意智能体工作流 RL 训练的训练框架，解决长上下文记忆难题。
核心特性
- 超长上下文处理：从 8K 训练上下文外推至 350 万 token，性能损失低于 5%
- 强化学习驱动：采用 RLVR（可验证奖励强化学习）训练，扩展 DAPO 算法支持多轮对话端到端优化
- 线性时间复杂度：突破长文本处理的计算瓶颈，资源随文本长度线性扩展
- 即插即用架构：无需修改底层模型架构，直接通过 RL 训练优化长上下文任务
- 开源模型权重：提供 7B 和 14B 参数的预训练模型，可在 HuggingFace 下载
- RULER 基准测试：在 512K RULER 测试中达到 95%+ 准确率
适用场景
💡 超长文档问答：对数百万 token 的文档进行多跳推理和精准问答
💡 大规模代码库分析：处理完整代码仓库的上下文理解任务
💡 学术文献综述：对海量学术论文进行综合分析和知识提取
💡 长对话记忆管理：在多轮对话中保持超长上下文的连贯性和准确性
快速开始
1. 启动 vLLM 服务：vllm serve BytedTsinghua-SIA/RL-MemoryAgent-14B --tensor_parallel_size 2
2. 运行快速开始脚本：python quickstart.py --model BytedTsinghua-SIA/RL-MemoryAgent-14B
3. 或使用在线 LLM 服务：设置 URL 和 API_KEY 环境变量后运行脚本