为什么重要
InterCode 让 Agent 在真实的代码执行环境中交互式解决问题——可以运行代码、观察输出、修改重试。这比一次性代码生成更贴近开发者实际工作流,也是 Agentic Coding 的基础能力评测。
构建方式
- 搭建 Docker 化的 Bash/SQL/Python 执行环境
- Agent 可以交互式提交命令并观察结果
- 支持多步操作、错误恢复、环境探索
- 基于最终状态验证任务完成
任务示例
Bash 任务:“Find all Python files larger than 1MB in the project directory and count them”
Agent 交互:find . -name "*.py" -size +1M → 观察输出 → find . -name "*.py" -size +1M | wc -l
关键发现
- 交互式执行比单次生成提升 20%+ 成功率
- 错误恢复能力是关键差异化因素
- Bash 任务比 SQL 和 Python 更有挑战性
关联基准
- SWE-bench:真实软件工程
- Terminal-Bench:终端操作
- AgentBench:Agent 综合
不足与展望
- 任务规模偏小
- 缺乏跨文件/跨工具的复合任务
- 需要更复杂的调试场景