返回评测
代码生成 代码-工程交付 未饱和 模态 · 代码 任务 · 执行验证

VISTA v1

首个持续更新的 Visual Spec-to-Web-App 基准,评估 Coding Agent 从 Figma 设计稿构建完整多页面 Web 应用的能力

University of Arizona / Zoom / Stony Brook University ·

考察能力

视觉规约理解 前端开发 交互实现 布局还原 全栈部署

构建信息

数据规模
128 页面 / 3253 交互组件 / 458 视觉锚点
构建方式
基于 Figma 设计稿手工构建,覆盖 10 类 Web 应用,5 种信息条件(C0-C4)
评测方式
DOM 定位 + 行为验证(CLIP + 浏览器检查),Combined Score = mean(L × B)
核心指标
Combined Score (S = mean(Localization × Behavior))

模型效果排行

🥇 Claude Fable 5 (Claude Code 2.1.152)
~0.29 (C4) 2026-07
🥈 Claude Opus 4.8 (Claude Code 2.1.126)
~0.25 (C4) 2026-07
🥉 GPT-5.5 (Codex CLI)
~0.22 (C4) 2026-07
4. GLM-5.2 (GLM Code)
~0.20 (C4) 2026-07

为什么重要

VISTA 标志着 AI 评测范式的一次根本转向:从”谁更会写代码”到”谁更会开发产品”。传统代码基准(SWE-bench、HumanEval)评估的是代码仓库维护和算法实现,但真实软件开发通常始于产品需求文档和 Figma 设计稿——开发者需要从零构建完整、可运行、具有真实交互能力的 Web 应用。

VISTA 的核心价值在于:

  • 端到端产品开发:Agent 不只是生成 HTML,而是需要完成页面导航、状态管理、交互逻辑、应用部署等完整开发任务
  • 视觉规约驱动:除自然语言需求外,同时提供网页截图和裁剪后的 Figma 结构信息,使 Agent 能真正理解产品设计
  • 持续更新:不同于论文发布后即停止维护的基准,VISTA 设计为 Living Benchmark,随 Claude Code、Codex、Cursor、Gemini 等模型及 Harness 持续刷新排行榜
  • 多维评估:同时衡量质量(Quality)、效率(Speed)、成本(Cost),帮助从工程角度评估 AI 软件工程师

构建方式

  1. 数据来源:以 Figma 设计稿为起点(而非真实网页),避免训练数据污染。Figma 渲染截图和结构化 JSON 共同作为 Ground Truth
  2. 覆盖范围:10 类典型 Web 应用——新闻、房产、招聘、论坛、旅行预订、聊天、云存储、电商、项目管理和音乐流媒体
  3. 标注规模:128 个页面、3253 个可交互组件、458 个视觉锚点(Visual Anchors),所有标注均为细粒度人工标注
  4. 5 种信息条件:
    • C0:纯文本 + 自由技术栈
    • C1:文本 + 截图 + 3 种指定技术栈
    • C2:文本 + 截图 + 自由技术栈
    • C3:文本 + 截图 + 裁剪 Figma JSON + 单一指定技术栈
    • C4:文本 + 截图 + 裁剪 Figma JSON + 自由技术栈
  5. 评测流程:Agent 生成代码 → Docker 部署 → 对每个标注的 UI 锚点匹配 DOM 元素 → 计算定位分 L(IoU/距离误差)和行为分 B(交互特定浏览器检查)

关键发现

  • 系统性竞争取代模型竞争:排行榜上的评测对象是”模型 × Harness”组合,同一模型在不同 Harness 下表现差异显著,工作流设计和工具调用策略已成为影响软件开发能力的重要因素
  • 最高得分仍不足 0.3:Fable 5 虽排名第一,但综合得分远未接近满分 1.0,AI 距离稳定完成真实产品开发仍有很大空间
  • 工程风格分化:Fable 5 平均每任务消耗约 75 万 tokens(以高计算开销换质量),GLM-5.2 仅约 30 万,GPT-5.5 约 28 万——不同模型在”质量 vs 成本”上形成明显取舍
  • 视觉理解是核心瓶颈:C4(含 Figma JSON + 自由栈)条件下得分最高但仍很低,说明视觉规约的精确理解仍是 Coding Agent 的核心短板
  • 行为正确性远低于布局还原:Agent 能大致还原页面结构,但实现正确交互行为(导航、输入、弹窗、状态管理)的能力严重不足

最新进展

  • 2026-07-06:VISTA 在线排行榜正式发布,Claude Fable 5 (Claude Code 2.1.152) 以 C4 条件约 0.29 综合得分领先,但所有模型得分均低于 0.3
  • 2026-07:排行榜持续更新,GPT-5.6 Sol 和 xAI Grok 4.5 尚未被评测,关注后续新增模型数据

局限性

  • 当前仅覆盖 Web 应用场景,不涉及移动端或桌面端
  • 评测依赖 Docker 部署,对 Agent 的基础设施能力有隐含要求
  • Figma 设计稿虽降低污染风险,但可能未充分反映真实开发中需求模糊性
  • 仅 10 类应用类别,场景多样性有限
Coding Agent Figma 前端 全栈 持续更新 视觉理解 产品开发