返回评测
Agent Agent-编码 未饱和 模态 · 代码 任务 · 执行验证

InterCode

在真实 Shell/SQL/Python 环境中交互式执行代码的 Agent 评测框架

Princeton ·

考察能力

交互式编码 错误调试 环境探索 Shell 操作

构建信息

数据规模
Bash: 200+ / SQL: 1,000+ / Python: 250+
评测方式
任务完成率
核心指标
Success Rate (%)

模型效果排行

🥇 GPT-5
78.2% (Bash)
🥈 Claude 4 Opus
75.4% (Bash)
🥉 o3
72.1% (Bash)

为什么重要

InterCode 让 Agent 在真实的代码执行环境中交互式解决问题——可以运行代码、观察输出、修改重试。这比一次性代码生成更贴近开发者实际工作流,也是 Agentic Coding 的基础能力评测。

构建方式

  1. 搭建 Docker 化的 Bash/SQL/Python 执行环境
  2. Agent 可以交互式提交命令并观察结果
  3. 支持多步操作、错误恢复、环境探索
  4. 基于最终状态验证任务完成

任务示例

Bash 任务:“Find all Python files larger than 1MB in the project directory and count them” Agent 交互:find . -name "*.py" -size +1M → 观察输出 → find . -name "*.py" -size +1M | wc -l

关键发现

  • 交互式执行比单次生成提升 20%+ 成功率
  • 错误恢复能力是关键差异化因素
  • Bash 任务比 SQL 和 Python 更有挑战性

关联基准

不足与展望

  • 任务规模偏小
  • 缺乏跨文件/跨工具的复合任务
  • 需要更复杂的调试场景
Agent 代码执行 Shell 交互式