UFO

活跃
GitHub Python MIT

简介

UFO 是微软开发的 Windows GUI 自动化 Agent,能理解屏幕界面并通过自然语言指令执行复杂操作系统任务。

核心特性

  • UFO³ 多设备 Agent Galaxy,支持跨设备 DAG 工作流编排和并行执行
  • 深度 Windows OS 集成,支持 GUI 和 API 混合操作方式
  • 声明式任务分解为动态 DAG,支持运行时自适应调整和持续图演化
  • 统一的 Agent 交互协议(AIP),基于 WebSocket 的安全协调和故障自动恢复
  • UFO² 桌面 AgentOS 和 UFO³ Galaxy 双模式,覆盖从简单到复杂的自动化场景
  • 支持 Windows、Linux、Android 等异构平台,通过 MCP 集成工具扩展能力

适用场景

💡 跨设备办公自动化:通过自然语言指令同时操作多台电脑完成复杂工作流
💡 Windows 桌面应用的 AI 驱动自动化测试和 UI 回归测试
💡 IT 运维中通过自然语言执行批量系统配置和故障排查任务
💡 结合多设备能力构建企业级智能助理,自动化跨平台数据处理
💡 教育和演示场景中展示 AI Agent 如何理解屏幕界面并执行操作

优势与不足

优势

  • 活跃维护,近期持续更新
  • 社区热度高(9.5k stars)
  • 开源许可证友好(MIT)
  • 项目有一定历史沉淀(已维护 2 年)

快速开始

1. 安装 Python 3.10+ 和相关依赖
2. 克隆仓库并安装 pip install -e .
3. 配置 OpenAI API Key
4. 运行 UFO²(简单场景):python -m ufo
5. 运行 UFO³ Galaxy(多设备):参考 galaxy/README.md
6. 通过自然语言描述任务即可开始自动化

相关项目

Agent S

12.2k · Python
活跃 A+

开源的计算机使用 Agent 框架,像人类一样操作图形界面完成复杂任务,支持自主学习和经验积累。

computer-usegui-agentautomation +1
  • · 首个在 OSWorld 基准测试中超越人类水平(72.60%)的开源框架
  • · 跨平台支持 Linux、macOS 和 Windows,通过单显示器进行 GUI 交互
  • · 模块化 grounding 模块,支持 UI-TARS-1.5-7B 及多种 LLM 后端(OpenAI、Anthropic、Gemini)

PyWinAssistant

1.3k · Python
不活跃 C

首个开源的通用 GUI 自动化智能体框架,通过自然语言完全操控图形界面,利用思维可视化与链式推理实现空间感知与 HID 交互模拟。

browseragentpython +2
  • · 首个通过原生 Windows 辅助功能 API 操作 GUI 的开源 Computer-Using-Agent,无需 OCR 或像素级成像
  • · 符号空间映射,通过 OS 原生父子关系和坐标系统实现层级化元素追踪
  • · 自然语言到 GUI 自动化:解析意图、映射到 UI 元素、生成自适应工作流