返回评测
Agent Agent-移动 未饱和 模态 · 截图 任务 · 执行验证

AndroidWorld

116 个在真实 Android 设备上执行的 App 操作任务,支持程序化验证结果

Google DeepMind ·

考察能力

App操作 手势交互 跨App 系统操作

构建信息

数据规模
116 tasks (可扩展)
构建方式
专家设计 + 程序化验证
评测方式
程序化状态验证
核心指标
Task Success (%)

模型效果排行

🥇 GPT-4V + ReAct
~33% 2024-05
🥈 Human
~80% 2024-05

为什么重要

AndroidWorld 是 Mobile Agent 的核心评测——在真实 Android 设备上执行 App 操作任务,不是截图模拟器。人类 ~80%,最强 Agent ~33%,是当前差距最大的 Agent 评测之一。

构建方式

  1. Google DeepMind 开发,116 个真实 Android 设备任务
  2. 在真实 Android 模拟器中运行(Pixel 设备 + 真实 App)
  3. 模型通过 Accessibility API 或截图获取界面信息
  4. 每个任务的成功判定都是程序化验证(不是人工评判)

任务示例

简单:“在设置中开启深色模式” 中等:“打开日历 App,在下周三创建一个 10:00 的会议” 复杂:“从相册中选择最近拍的照片,通过微信发给联系人 XX”(跨 App)

关键发现

  • 人类 ~80% vs 最强 Agent ~33%——差距巨大
  • 跨 App 操作(需要从一个 App 切换到另一个)是最大瓶颈
  • Accessibility API 输入比纯截图好 ~10%

关联基准

不足与展望

  • 目前只支持 Android,iOS 评测缺失
  • 没有测手势操作(滑动、缩放)
  • 中文 App 覆盖不足——大部分任务基于英文 App
移动端 Android Agent 真机