首页项目文章PK榜关于
探索项目

AutoResearch

不活跃
GitHub Python No License

简介

由 Andrej Karpathy 开发的 AI 研究自动化 Agent，能在单 GPU 上自动运行纳米聊天训练研究实验。

核心特性

  • 自主实验循环 — AI Agent 自动修改训练代码、运行 5 分钟实验、评估结果并决定保留或丢弃
  • 单文件 Agent 编辑 — Agent 仅修改 train.py（含 GPT 模型、优化器和训练循环），人类编辑 program.md 指令
  • 固定时间预算 — 每次实验固定 5 分钟 wall clock，使不同架构变更可直接比较 val_bpb 指标
  • 基于 nanochat 的训练 — 简化版单 GPU GPT 训练实现，使用 Muon + AdamW 优化器
  • Markdown 驱动的研究编程 — 通过 program.md 定义 Agent 行为，像编写「研究组织代码」一样迭代研究策略
  • 可扩展多 Agent — 基础版单 Agent 起步，架构上支持增加更多 Agent 协作加速研究进展

适用场景

💡 夜间自动运行 LLM 训练实验，早晨查看实验日志和更优模型
💡 探索 GPT 架构超参数搜索，自动发现特定 GPU 上的最优配置
💡 研究 AI Agent 自主科研能力，迭代 program.md 优化研究策略
💡 在单 GPU 环境下快速原型验证 LLM 训练思路
💡 教育和学习 LLM 训练流程，理解模型架构与优化器的工作原理

标签

research-agent automated-research llm-training python

分类

🤖 Agent 框架 💻 编码 Agent

快速开始

# 安装 uv 包管理器
curl -LsSf https://astral.sh/uv/install.sh | sh

# 安装依赖
uv sync

# 下载数据并训练分词器（一次性，约 2 分钟）
uv run prepare.py

# 手动运行一次训练实验（约 5 分钟）
uv run train.py

# 启动自主研究：将 Claude/Codex 指向本仓库，提示 "look at program.md and let's kick off a new experiment"
访问 GitHub 访问官网

相关项目