综合调研

腾讯生态 Agent RL Environment 构建蓝图

基于腾讯内部平台生态 + 外部开源框架,系统设计可落地的 Agent 强化学习环境矩阵(含 ToB 行业领域)

Agent 强化学习 RL Environment 腾讯生态 MCP 评测 Agentic Coding

腾讯生态 Agent RL Environment 构建蓝图

目标:参照 APEX-Agents / Archipelago 的设计范式,结合腾讯公司内部平台生态,设计一套可落地的 Agent RL Environment 体系
范围:14 大领域(8 内部工具链 + 6 ToB 行业)· 腾讯生态 40+ 平台/API(含微信/QQ/视频号全生态) · 外部参考框架 15+ · 30+ MCP Server
2026.04.15


一、背景与动机

1.1 为什么要自建 RL Environment

当前 Agent 评测和训练的核心瓶颈不是模型能力,而是环境。模型能力的天花板取决于它能在什么样的环境中练习、犯错、迭代。

维度纯文本 BenchmarkRL Environment
反馈形式单次打分多轮交互 + 状态变化
环境复杂度固定 prompt真实文件系统 + 应用 + API
可训练性仅评测可产出训练轨迹
业务贴合度通用学术场景可定制为企业内部场景

腾讯的独特优势:拥有从 C 端超级入口(微信/QQ/视频号)、文档协作(腾讯文档)、项目管理(TAPD/CODING)、数据库(TDSQL)、云基础设施(CloudBase/COS/SCF)到企业通讯(企业微信)的完整闭环。这意味着可以构建覆盖 C 端用户触达到 B 端企业管理的全链路 Agent 环境——而不只是学术 benchmark。

1.2 参照系:APEX-Agents 做了什么

Mercor 的 APEX-Agents 是当前最成熟的专业服务领域 Agent 评测框架:

World(工作环境快照)
  ├── 100-600+ 文件的真实文件系统
  ├── 应用数据(.apps_data/)
  └── MCP Server 配置
        ↓
Task(具体任务)
  ├── Prompt + 输入文件
  ├── 评分 Rubric(Verifiers)
  └── Golden Response(标准答案)
        ↓
Eval(评测)
  ├── Agent 执行轨迹(Trajectory)
  ├── 环境快照对比(Snapshot Diff)
  └── 双轨评分(Judge + GT)

Archipelago(开源评测框架)的核心架构:

  • Environment:Docker 容器化沙箱,通过 MCP Gateway 暴露工具
  • Agents Runner:编排 Agent 生命周期,管理沙箱生成与销毁
  • Grading:快照对比 → 差异提取 → 多维度验证 → 评分

关键设计决策:Agent 通过 MCP 协议与环境交互(而非直接操作文件系统),实现操作的精确记录和权限控制。


二、外部参考框架全景

在设计我们自己的环境之前,先梳理外部已有的成熟方案。

2.1 评测导向框架

框架领域环境形态MCP 支持适合做 RL 训练关键特点
APEX-Agents投行/咨询/法律Docker + MCP Gateway✅ 原生✅ 轨迹数据专业服务场景,400 Task
SWE-bench代码修复Git Repo + 测试用例❌✅ 大量用GitHub Issue → PR,500 实例
WebArenaWeb 操作真实网站容器❌⚠️ 需适配电商/论坛/CMS/地图 4 类网站
OSWorld桌面操作VM(Ubuntu/Windows/macOS)❌⚠️ 重量级真实 OS 环境,支持 GUI 交互
AgentBench多领域综合8 类环境❌⚠️DB/OS/知识图谱/Web 等
Terminal-Bench终端操作Docker + Terminal❌✅编译/部署/训练模型等终端任务
τ-bench工具调用模拟 API + 数据库❌✅零售/航空客服场景
MCP-AgentBenchMCP 工具调用MCP Server Testbed✅ 原生✅专门评测 MCP 工具使用能力
InfiAgent-DABench数据分析Python + 数据集❌⚠️端到端数据分析任务

2.2 训练导向框架

框架核心方法环境对接方式关键能力
ART (OpenPipe)GRPO + RULER 自动评分MCP Server 原生集成无需标注数据,自动生成场景
AgentGym-RLPPO/GRPO + 多环境并行统一 AgentGym 接口14 类环境,支持 RL 训练
RAGEN多轮 RL + 自进化自定义环境接口研究 reasoning collapse 问题
verl异步 Agentic RLServer-based 环境字节开源,工业级训练框架

2.3 关键洞察

  1. MCP 正在成为 Agent-Environment 接口标准——APEX-Agents、ART/MCP-RL、MCP-AgentBench 都选择了 MCP
  2. Docker 容器化是环境隔离的事实标准——几乎所有框架都用 Docker
  3. 快照对比是最可靠的评测方式——不依赖中间过程,只看最终状态变化
  4. 训练和评测的环境可以复用——好的评测环境稍加改造就是训练环境

三、腾讯生态可用资源盘点

这是构建环境的”原材料清单”。

3.1 开放平台与 API

平台/产品API 类型可构建的 Agent 场景MCP Server 可行性
腾讯文档Open API (HTTPS)文档创建/编辑/协作/数据读取✅ 已有官方 MCP
TAPDOpen API需求/缺陷/任务/迭代管理✅ 可封装
CODING DevOpsOpen API代码仓库/CI-CD/制品库/项目管理✅ 可封装
企业微信Open API + Webhook消息推送/审批/日程/通讯录✅ 可封装
腾讯会议Open API会议创建/管理/录制✅ 已有 MCP
腾讯云 APIHTTPS (300+ API)云资源管理/运维自动化✅ 已有 SDK
微信公众平台Open API内容管理/用户管理/消息推送/模板消息✅ 已有社区 MCP
微信视频号视频号助手 API直播管理/橱窗管理/数据分析/留资组件✅ 可封装
微信开放平台Open API第三方应用授权/小程序管理/开放能力代调用✅ 可封装
QQ 开放平台QQ Bot API v2QQ 机器人(群聊/频道/消息/日程/表情回应)✅ 可封装
腾讯位置服务Open API地理编码/路线规划/POI 搜索✅ 已有官方 MCP
腾讯广告Marketing API广告投放/数据分析/报表⚠️ 需授权

3.2 云基础设施

产品能力Agent 环境用途
CloudBase 云开发云函数 + 数据库 + 存储 + MCP一站式后端环境,天然支持 MCP Server 部署
COS 对象存储文件存储 + CDN环境快照存储、任务文件分发
SCF 云函数Serverless 函数Agent 工具的轻量级运行时
TDSQL / 云数据库MySQL / PostgreSQL / Redis数据库操作类 Task 的底层支撑
Agent 沙箱 (AgentSandbox)安全代码执行环境Agent 代码执行的隔离沙箱
Code-MCP Server基于 AgentSandbox 的 MCP代码执行 + 沙箱管理,原生 MCP 协议
CVM 云服务器 + TAT 自动化助手服务器管理 + 命令执行云运维环境的基础计算资源(已有 MCP)
CLS 日志服务日志采集/检索/分析运维日志查询类 Task 的数据源(已有官方 MCP)
TCA 代码分析代码质量/安全/规范扫描软件工程 Code Review 类 Task(已有官方 MCP)
EdgeOne Pages静态站点一键部署前端/小程序部署环节(已有官方 MCP)
HAI 高性能应用GPU 实例管理AI 模型训练/推理类 Task 的算力资源(已有 MCP)
TKE 容器服务Kubernetes环境容器编排和调度
混元大模型LLM APIAgent 的推理后端 / 评分 Judge

3.3 内部工具链

工具能力环境构建价值
CodeBuddyAI 编程助手Agent 编码能力的载体和测试平台
乐享知识库企业知识管理知识检索类 Task 的数据源
腾讯 iOA终端管理企业终端环境快照的来源
腾讯翻译君翻译 API多语言任务环境的组件

四、分领域 RL Environment 设计(Part A:内部工具链)

核心思路:每个领域定义 World(环境)→ Task(任务)→ Verifier(验证器)三层结构,复用 Archipelago 的 Docker + MCP 架构。

Part A 覆盖 8 个基于腾讯内部工具链的领域,Part B(4B 节)覆盖 6 个 ToB 行业垂直领域。

4.1 领域一:软件工程(DevOps)

对标:SWE-bench + Terminal-Bench
腾讯生态依赖:CODING DevOps + TAPD + Code-MCP Server + AgentSandbox

World 定义

{
  "domain": "software_engineering",
  "description": "模拟腾讯内部研发流程的完整开发环境",
  "services": [
    {
      "name": "coding-mcp",
      "type": "mcp",
      "description": "CODING 代码仓库和 CI/CD 操作"
    },
    {
      "name": "tapd-mcp",
      "type": "mcp",
      "description": "TAPD 项目管理和需求跟踪"
    },
    {
      "name": "code-executor",
      "type": "mcp",
      "description": "基于 AgentSandbox 的代码执行环境"
    },
    {
      "name": "tca-mcp",
      "type": "mcp",
      "description": "腾讯云 TCA 代码质量分析(缺陷/安全/规范/复杂度)"
    }
  ],
  "world_files": {
    "filesystem": "典型 Python/Go/Node 项目结构 + 测试用例",
    "apps_data": "TAPD 需求列表 + CODING 仓库状态 + CI 流水线配置"
  }
}

Task 示例

Task ID难度描述预计时长验证方式
se-001L1根据 TAPD 需求描述,在 CODING 仓库中修复指定 Bug15min测试用例全通过 + CI 绿
se-002L2阅读 PR Review 评论,重构代码并回复 Review 意见30min代码质量评分 + Review 回复质量
se-003L3分析 CI 流水线失败日志,定位根因并修复45minCI 重跑成功 + 根因分析准确性
se-004L4根据产品需求文档,完成功能开发 + 测试 + MR 提交2h端到端功能验证 + 代码规范
se-005L2使用 TCA 扫描代码仓库,分析质量报告并修复 Top-5 高危问题30minTCA 复扫零高危 + 修复合理性

Verifier 设计

verifiers = [
    {
        "type": "output",
        "criteria": "所有单元测试通过",
        "method": "运行 pytest/go test,检查 exit code"
    },
    {
        "type": "output",
        "criteria": "CI 流水线状态为 success",
        "method": "查询 CODING CI API 获取最新构建状态"
    },
    {
        "type": "trajectory",
        "criteria": "Agent 没有暴力搜索或无效循环",
        "method": "分析 tool_call 序列的效率"
    }
]

4.2 领域二:办公协作(Office Automation)

对标:APEX-Agents(咨询/法律场景)
腾讯生态依赖:腾讯文档 + 企业微信 + 腾讯会议

World 定义

{
  "domain": "office_automation",
  "description": "模拟企业日常办公流程",
  "services": [
    {
      "name": "tencent-docs-mcp",
      "type": "mcp",
      "description": "腾讯文档的创建/编辑/协作"
    },
    {
      "name": "wecom-mcp",
      "type": "mcp",
      "description": "企业微信消息/审批/日程"
    },
    {
      "name": "meeting-mcp",
      "type": "mcp",
      "description": "腾讯会议的创建/管理"
    },
    {
      "name": "filesystem",
      "type": "mcp",
      "description": "本地文件系统操作"
    }
  ],
  "world_files": {
    "filesystem": "项目计划书/周报模板/会议纪要/合同草稿",
    "apps_data": "企微通讯录 + 日程数据 + 文档共享列表"
  }
}

Task 示例

Task ID难度描述验证方式
oa-001L1根据会议纪要整理 Action Items 并在企微通知相关人消息发送成功 + 内容准确性
oa-002L2基于多份数据报表,生成周报并发布到腾讯文档文档格式 + 数据准确性 + 分析深度
oa-003L3协调多方日程,安排跨部门评审会并准备议程文档时间冲突检测 + 议程完整性
oa-004L4根据客户需求邮件,完成方案撰写 + 内部审批 + 会议安排端到端流程完成度

4.3 领域三:数据工程(Data Engineering)

对标:InfiAgent-DABench + τ-bench
腾讯生态依赖:TDSQL + COS + CloudBase + 云函数

World 定义

{
  "domain": "data_engineering",
  "description": "模拟数据开发和治理场景",
  "services": [
    {
      "name": "database-mcp",
      "type": "mcp",
      "description": "TDSQL/MySQL 数据库操作"
    },
    {
      "name": "cos-mcp",
      "type": "mcp",
      "description": "COS 对象存储文件操作"
    },
    {
      "name": "code-executor",
      "type": "mcp",
      "description": "Python/SQL 代码执行"
    },
    {
      "name": "scheduler-mcp",
      "type": "mcp",
      "description": "调度系统模拟"
    }
  ],
  "world_files": {
    "filesystem": "ETL 脚本 + dbt 项目 + 数据字典 + 质量规则",
    "apps_data": "数据库 Schema + 采样数据 + 调度 DAG 配置"
  }
}

Task 示例

Task ID难度描述验证方式
de-001L1编写 SQL 查询满足业务分析需求查询结果正确性 + 性能
de-002L2诊断数据管道失败并修复 ETL 脚本管道重跑成功 + 数据一致性
de-003L3设计数据仓库分层架构(ODS→DWD→DWS→ADS)Schema 合理性 + 文档质量
de-004L4端到端数据迁移:评估 → 方案设计 → 执行 → 验证数据完整性 + 零丢失

4.4 领域四:云运维(Cloud Operations)

对标:Terminal-Bench + AgentBench(OS)
腾讯生态依赖:腾讯云 API + TKE + CVM + CLB + 云监控

World 定义

{
  "domain": "cloud_operations",
  "description": "模拟腾讯云资源管理和运维场景",
  "services": [
    {
      "name": "tencent-cloud-mcp",
      "type": "mcp",
      "description": "腾讯云 API(CVM/TKE/CLB/COS 等)"
    },
    {
      "name": "terminal",
      "type": "mcp",
      "description": "服务器终端操作"
    },
    {
      "name": "monitoring-mcp",
      "type": "mcp",
      "description": "云监控告警数据"
    },
    {
      "name": "cls-mcp",
      "type": "mcp",
      "description": "腾讯云 CLS 日志检索与分析"
    },
    {
      "name": "cvm-mcp",
      "type": "mcp",
      "description": "CVM 实例管理 + TAT 自动化命令执行"
    }
  ],
  "world_files": {
    "filesystem": "运维脚本 + Terraform 配置 + K8s YAML",
    "apps_data": "CVM 实例列表 + 监控指标 + 告警规则 + 日志"
  }
}

Task 示例

Task ID难度描述验证方式
co-001L1根据告警信息定位异常实例并重启服务服务恢复 + 告警清除
co-002L2分析监控指标,优化 K8s 资源配置(HPA/资源配额)资源利用率提升 + 无服务中断
co-003L3故障演练:模拟节点宕机,完成故障转移和恢复RTO 达标 + 数据无损
co-004L4从零搭建高可用架构:多 AZ 部署 + CLB + 自动伸缩架构评审 + 压测通过
co-005L2通过 CLS 日志检索定位线上报错根因,并编写修复脚本执行根因准确 + 报错消失 + 脚本可复用

4.5 领域五:产品运营(Product Operations)

对标:APEX-Agents(咨询场景)
腾讯生态依赖:腾讯广告 API + 微信公众平台 + 微信视频号助手 API + 腾讯文档 + 数据分析

Task 示例

Task ID难度描述验证方式
po-001L1根据广告投放数据生成周报数据准确性 + 分析深度
po-002L2设计 A/B 测试方案并配置投放计划方案合理性 + 配置正确性
po-003L3分析用户画像数据,制定精准营销策略策略可执行性 + ROI 预估合理性
po-004L4端到端运营活动:策划 → 素材准备 → 投放配置 → 效果分析全流程完成度
po-005L2分析视频号直播数据(观看/互动/转化),生成场次复盘报告数据准确性 + 优化建议可行性
po-006L3制定视频号 + 公众号 + 小程序联动的内容运营方案策略完整性 + 平台间串联逻辑

4.6 领域六:客户服务(Customer Service)

对标:τ-bench(零售/航空客服)
腾讯生态依赖:企业微信客服 API + 知识库 + 工单系统

Task 示例

Task ID难度描述验证方式
cs-001L1根据用户问题查询知识库并回复回答准确性 + 响应速度
cs-002L2处理退款申请:查单 → 判断政策 → 执行退款政策遵循 + 操作正确
cs-003L3处理升级投诉:安抚用户 + 多系统协调 + 方案制定用户满意度 + 合规性
cs-004L4疑难问题处理:跨部门协调 + 工单流转 + 根因分析问题解决率 + 处理时效

4.7 领域七:安全合规(Security & Compliance)

腾讯生态依赖:主机安全 API + WAF + 安全运营中心

Task 示例

Task ID难度描述验证方式
sc-001L1分析安全告警日志,判断是否误报判断准确率
sc-002L2漏洞扫描结果分析 + 修复方案制定修复有效性
sc-003L3安全事件应急响应:溯源 → 止损 → 修复 → 报告全流程时效 + 报告质量

4.8 领域八:小程序开发(Mini-Program Dev)

腾讯生态依赖:微信小程序 API + QQ 小程序 API + 云开发 + CloudBase MCP + EdgeOne Pages

Task 示例

Task ID难度描述验证方式
mp-001L1根据设计稿实现小程序页面UI 还原度 + 功能正确性
mp-002L2接入云开发数据库,实现增删改查数据操作正确性 + 性能
mp-003L3集成微信支付 + 订单系统支付流程完整 + 异常处理
mp-004L4完整小程序开发:需求分析 → 开发 → 测试 → 发布端到端可用性
mp-005L2使用 EdgeOne Pages 一键部署 H5 页面并配置自定义域名部署成功 + 页面可访问 + HTTPS 正常

4B. ToB 行业领域 RL Environment 设计

以上 8 个领域偏向腾讯内部工具链和通用能力。但腾讯 ToB 业务覆盖了金融、医疗、教育、零售、政务、出行等多个垂直行业,这些行业恰恰是 Agent 价值最高的场景——专业门槛高、流程复杂、合规要求严格、评测难度大。

4.9 领域九:金融服务(Financial Services)

对标:Finance Agent Benchmark (Vals AI / Stanford) + InvestorBench + FinRL + τ-bench
腾讯生态依赖:天御风控 API + 微信支付 API + 腾讯云 OCR(票据/合同)+ TDSQL 金融版 + 金融云合规基座

外部参考框架

框架发布方核心能力环境形态
Finance Agent BenchmarkVals AI / StanfordSEC 文档分析 + 时间敏感金融研究真实 SEC EDGAR 数据 + 工具链
InvestorBenchACL 2025多 Agent 投资决策评测市场数据 + 多信号源
FinRLAI4Finance量化交易 RL 训练模拟市场环境
TradingAgents多 Agent 交易框架基金经理/分析师/风控角色协作LLM 多 Agent

World 定义

{
  "domain": "financial_services",
  "description": "模拟金融机构的核心业务场景",
  "services": [
    {
      "name": "risk-control-mcp",
      "type": "mcp",
      "description": "基于天御的风控决策引擎(反欺诈/信用评估/交易风控)"
    },
    {
      "name": "payment-mcp",
      "type": "mcp",
      "description": "微信支付 API 封装(交易查询/退款/对账)"
    },
    {
      "name": "ocr-mcp",
      "type": "mcp",
      "description": "腾讯云 OCR 票据/合同/财报识别"
    },
    {
      "name": "database-mcp",
      "type": "mcp",
      "description": "TDSQL 金融版数据库操作"
    },
    {
      "name": "compliance-checker",
      "type": "mcp",
      "description": "金融合规规则引擎"
    },
    {
      "name": "market-data-mcp",
      "type": "mcp",
      "description": "行情数据 + 财务指标查询"
    }
  ],
  "world_files": {
    "filesystem": "财报 PDF / 合同扫描件 / 交易流水 / 审计底稿 / 政策法规文本",
    "apps_data": "客户画像数据 + 风控规则库 + 交易历史 + 持仓数据"
  }
}

Task 示例

Task ID子领域难度描述验证方式
fin-001风控L1根据交易流水 + 用户画像,判断一笔交易是否存在欺诈风险判断准确率 + 合规性
fin-002信贷L2完成一笔贷款申请的全流程审核(征信查询 → 风险评估 → 额度计算 → 审批建议)评估合理性 + 政策合规
fin-003投研L3基于 10-K/10-Q 财报和行情数据,撰写一家公司的投资分析报告数据准确性 + 分析深度 + 结论合理性
fin-004合规L3审查一份金融合同,识别风险条款并出具合规审查意见条款识别召回率 + 意见专业性
fin-005对账L2对照支付流水和财务账本,完成日终对账并生成差异报告差异发现率 + 报告准确性
fin-006理赔L4保险理赔全流程:受理 → 单证审核(OCR 提取 + 交叉验证)→ 定损 → 赔付建议端到端准确率 + 时效

Verifier 设计

verifiers = [
    {
        "type": "output",
        "criteria": "风控决策与标准答案一致",
        "method": "对比 golden_response 中的决策结果"
    },
    {
        "type": "compliance",
        "criteria": "所有操作符合金融监管要求",
        "method": "规则引擎校验操作序列合规性"
    },
    {
        "type": "llm_judge",
        "criteria": "分析报告的专业性和可操作性",
        "method": "金融领域 Judge 评分"
    },
    {
        "type": "numerical",
        "criteria": "财务数字计算正确",
        "method": "关键数值误差 < 0.01%"
    }
]

特殊考量:

  • 数据脱敏:所有金融数据必须经过脱敏处理(姓名/身份证/卡号替换)
  • 合规约束:Agent 操作序列必须符合金融行业操作规范,违反合规直接扣分
  • 时间敏感性:部分任务要求在模拟的市场时间窗口内完成(如盘中风控决策)

4.10 领域十:医疗健康(Healthcare)

对标:MedAgentBench (Stanford ML Group) + AgentClinic
腾讯生态依赖:腾讯觅影(AI 影像)+ 腾讯医典 API + 腾讯云 OCR(医疗报告)+ 腾讯健康数据算法

外部参考框架

框架发布方核心能力环境形态
MedAgentBenchStanford ML Group虚拟 EHR 环境下的医疗 Agent 评测FHIR 标准 EHR 系统 + 100+ 临床任务
AgentClinic多模态临床环境模拟患者交互 + 多模态数据采集 + 诊断模拟诊室(对话 + 影像 + 检验)

World 定义

{
  "domain": "healthcare",
  "description": "模拟医疗机构的临床和管理场景",
  "services": [
    {
      "name": "ehr-mcp",
      "type": "mcp",
      "description": "电子病历系统操作(基于 FHIR 标准模拟)"
    },
    {
      "name": "medical-image-mcp",
      "type": "mcp",
      "description": "基于腾讯觅影的医学影像 AI 辅助分析"
    },
    {
      "name": "medical-ocr-mcp",
      "type": "mcp",
      "description": "医疗报告/处方/检验单 OCR 识别"
    },
    {
      "name": "medical-knowledge-mcp",
      "type": "mcp",
      "description": "基于腾讯医典的医学知识库检索"
    },
    {
      "name": "pharmacy-mcp",
      "type": "mcp",
      "description": "药品数据库 + 药物相互作用检查"
    }
  ],
  "world_files": {
    "filesystem": "患者病历 / 检验报告 / 影像图片 / 用药记录 / 诊疗指南",
    "apps_data": "患者档案 + 排班数据 + 药品库存 + 医保目录"
  }
}

Task 示例

Task ID子领域难度描述验证方式
med-001分诊L1根据患者主诉和症状描述,给出分诊建议(科室 + 紧急程度)分诊准确率 + 紧急程度判断
med-002诊断辅助L2综合检验报告 + 影像结果 + 病史,生成鉴别诊断列表诊断覆盖率 + 排序合理性
med-003用药审查L2审查住院患者的用药医嘱,识别潜在药物相互作用和禁忌危险交互识别召回率
med-004病历书写L3根据门诊对话记录,生成结构化电子病历(主诉/现病史/诊断/处置)病历规范性 + 信息完整性
med-005质控L3审查出院病历质量,识别缺陷项并出具质控报告缺陷识别率 + 报告专业性
med-006临床决策L4复杂病例讨论:多系统疾病患者的诊疗方案制定方案合理性 + 循证依据 + 多学科协调

特殊考量:

  • 患者隐私:所有数据必须使用合成数据或深度脱敏数据
  • 安全红线:Agent 不能直接下达医嘱,仅提供辅助建议(模拟中标注为”AI 建议”)
  • 循证要求:诊断和用药建议必须引用证据来源(指南/文献),可评分

4.11 领域十一:教育(Education)

对标:LLM Agents for Education (EMNLP 2025 Survey) + 教育 Multi-Agent 评估
腾讯生态依赖:腾讯教育 AI 平台 + 腾讯文档 + 腾讯会议 + 混元大模型

外部参考

教育领域尚无成熟的 Agent RL Environment(推测这是蓝海),但有几个方向已有研究基础:

  • ACL/EMNLP 2025 多篇综述梳理了 LLM Agent 在教育中的应用(智能辅导/自动出题/作业批改/学情分析)
  • Multi-Agent 模拟教室环境(学生 Agent + 教师 Agent 交互)
  • 腾讯教育 AI 已落地 AI 作业批改、动态测评、学情分析等功能

World 定义

{
  "domain": "education",
  "description": "模拟教育教学的全流程场景",
  "services": [
    {
      "name": "learning-platform-mcp",
      "type": "mcp",
      "description": "在线学习平台操作(课程/作业/考试管理)"
    },
    {
      "name": "tencent-docs-mcp",
      "type": "mcp",
      "description": "腾讯文档(试卷/教案/学情报告编辑)"
    },
    {
      "name": "student-simulator",
      "type": "mcp",
      "description": "模拟不同水平的学生 Agent(用于辅导场景)"
    },
    {
      "name": "knowledge-graph-mcp",
      "type": "mcp",
      "description": "学科知识图谱查询(知识点关联/前置依赖)"
    },
    {
      "name": "assessment-engine",
      "type": "mcp",
      "description": "自动评测引擎(客观题自动批改 + 主观题评分)"
    }
  ],
  "world_files": {
    "filesystem": "教案 / 试卷库 / 学生作业 / 课程大纲 / 知识点图谱",
    "apps_data": "学生画像 + 学习记录 + 成绩数据 + 错题本"
  }
}

Task 示例

Task ID子领域难度描述验证方式
edu-001出题L1根据知识点和难度要求,生成一套数学测试卷知识点覆盖率 + 难度分布合理性
edu-002批改L2批改一组学生的主观题作业(含解题过程评价 + 个性化反馈)评分一致性 + 反馈质量
edu-003辅导L3与模拟学生 Agent 进行一对一辅导对话(引导式教学,不直接给答案)教学策略合理性 + 学生理解提升度
edu-004学情分析L3分析一个班级的考试数据,生成学情报告和个性化教学建议数据分析准确性 + 建议可操作性
edu-005课程设计L4根据课程标准设计完整的教学方案(知识点拆解 → 课时安排 → 教学活动 → 评估方式)方案完整性 + 教育理论合规

特殊考量:

  • 学生模拟器是核心难点——需要模拟不同水平/性格/学习风格的学生,这本身就是一个有趣的 RL 问题
  • 评估的”软”指标:教育效果评估比工程领域更模糊,需要更多依赖 LLM Judge
  • 腾讯教育 AI 的”因材施教”能力可以直接作为 baseline

4.12 领域十二:智慧零售(Smart Retail)

对标:τ-bench(零售客服)+ WebArena(电商网站操作)
腾讯生态依赖:微信小程序 + 微信支付 + 微信视频号 + 腾讯广告 API + 企业微信(导购)+ 腾讯云商付

World 定义

{
  "domain": "smart_retail",
  "description": "模拟零售/电商业务全链路",
  "services": [
    {
      "name": "ecommerce-mcp",
      "type": "mcp",
      "description": "电商平台操作(商品/订单/库存/物流)"
    },
    {
      "name": "payment-mcp",
      "type": "mcp",
      "description": "微信支付(交易/退款/对账/分账)"
    },
    {
      "name": "ads-mcp",
      "type": "mcp",
      "description": "腾讯广告投放(创建/优化/数据分析)"
    },
    {
      "name": "wecom-mcp",
      "type": "mcp",
      "description": "企业微信导购(客户管理/消息触达/社群运营)"
    },
    {
      "name": "miniprogram-mcp",
      "type": "mcp",
      "description": "小程序商城管理"
    },
    {
      "name": "channels-mcp",
      "type": "mcp",
      "description": "视频号直播电商(直播管理/橱窗/数据分析/留资)"
    },
    {
      "name": "analytics-mcp",
      "type": "mcp",
      "description": "销售数据分析 + 用户行为分析"
    }
  ],
  "world_files": {
    "filesystem": "商品目录 / 促销规则 / 供应商合同 / 运营 SOP",
    "apps_data": "订单数据 + 库存状态 + 会员画像 + 广告投放记录"
  }
}

Task 示例

Task ID子领域难度描述验证方式
ret-001客服L1处理客户的退换货咨询(查单 → 判断政策 → 执行操作)政策遵循 + 操作正确 + 响应质量
ret-002选品L2根据销售数据和市场趋势,推荐下季度选品方案数据分析深度 + 推荐合理性
ret-003营销L3策划一场大促活动:选品 → 定价 → 广告投放 → 社群推送 → 效果预估方案可执行性 + ROI 合理性
ret-004供应链L3根据销售预测和库存状况,生成补货计划并协调供应商预测准确性 + 库存周转优化
ret-005全域运营L4从零搭建私域运营体系:企微导购 → 社群分层 → 内容策略 → 转化漏斗端到端完成度 + 数据闭环
ret-006直播电商L3策划视频号直播带货:选品上架 → 直播脚本 → 橱窗配置 → 实时数据监控 → 场次复盘橱窗配置正确 + 数据分析深度

4.13 领域十三:数字政务(Digital Government)

对标:τ-bench(服务场景)+ APEX-Agents(文档分析)
腾讯生态依赖:政务微信 + 腾讯电子签 + 腾讯问卷 + 腾讯云 OCR + 数字人 + 腾讯云大数据平台

World 定义

{
  "domain": "digital_government",
  "description": "模拟政务服务和公共管理场景",
  "services": [
    {
      "name": "gov-service-mcp",
      "type": "mcp",
      "description": "政务服务平台操作(事项办理/材料审核/进度查询)"
    },
    {
      "name": "ocr-mcp",
      "type": "mcp",
      "description": "证照识别 + 表单识别"
    },
    {
      "name": "esign-mcp",
      "type": "mcp",
      "description": "腾讯电子签(合同签署/模板管理)"
    },
    {
      "name": "data-platform-mcp",
      "type": "mcp",
      "description": "政务数据平台(跨部门数据查询/统计分析)"
    },
    {
      "name": "citizen-simulator",
      "type": "mcp",
      "description": "模拟不同类型的办事市民"
    }
  ],
  "world_files": {
    "filesystem": "政策法规文本 / 审批流程图 / 申请材料模板 / 统计报表",
    "apps_data": "办事指南库 + 政策知识库 + 模拟人口数据 + 审批记录"
  }
}

Task 示例

Task ID子领域难度描述验证方式
gov-001咨询L1解答市民关于社保/公积金/户口等政策咨询回答准确性 + 政策引用正确
gov-002材料审核L2审核企业营业执照申请材料的完整性和合规性缺陷识别率 + 审核结论准确
gov-003政策解读L3针对新出台的政策文件,生成面向不同受众的解读材料解读准确性 + 受众适配度
gov-004跨部门协调L4处理需多部门协同的复杂审批事项(如建设工程许可)流程正确性 + 协调效率 + 合规性

4.14 领域十四:智慧出行 / 汽车(Smart Mobility)

对标:OSWorld(桌面操作)+ WebArena(多系统交互)
腾讯生态依赖:腾讯智慧出行(车联网 TSP + 智能座舱)+ 腾讯位置服务 + 腾讯云地图 + 企业微信(车企 CRM)

World 定义

{
  "domain": "smart_mobility",
  "description": "模拟车企和出行平台的业务场景",
  "services": [
    {
      "name": "vehicle-mcp",
      "type": "mcp",
      "description": "车联网数据查询(车辆状态/行驶数据/OTA 状态)"
    },
    {
      "name": "lbs-mcp",
      "type": "mcp",
      "description": "腾讯位置服务(路线规划/POI/交通状况)"
    },
    {
      "name": "crm-mcp",
      "type": "mcp",
      "description": "车企 CRM 系统(客户管理/线索跟进/保客运营)"
    },
    {
      "name": "analytics-mcp",
      "type": "mcp",
      "description": "出行数据分析 + 用户行为洞察"
    },
    {
      "name": "after-sales-mcp",
      "type": "mcp",
      "description": "售后服务系统(工单/保养提醒/故障诊断)"
    }
  ],
  "world_files": {
    "filesystem": "车辆配置表 / 用户手册 / 服务政策 / 营销方案模板",
    "apps_data": "车辆遥测数据 + 客户档案 + 维保记录 + 销售线索池"
  }
}

Task 示例

Task ID子领域难度描述验证方式
mob-001客服L1处理车主关于充电桩故障/导航异常/车辆功能的咨询回答准确性 + 问题解决率
mob-002故障诊断L2根据车辆遥测数据和故障码,判断故障原因并推荐处理方案诊断准确率 + 推荐合理性
mob-003保客运营L3分析客户流失风险,制定个性化保客策略(保养提醒 + 增值服务推荐)策略可执行性 + ROI 预估
mob-004出行规划L3综合实时路况/充电桩分布/用户偏好,规划多日自驾出行方案路线合理性 + 充电规划可行性
mob-005OTA 策略L4制定车型 OTA 升级策略:功能分析 → 灰度计划 → 回滚预案 → 用户通知方案完整性 + 风险控制

4B.1 ToB 行业领域的腾讯生态资源盘点

行业腾讯核心产品/APIMCP Server 可行性数据获取难度
金融天御风控 RCP · 微信支付 V3 · OCR 票据识别 · TDSQL 金融版 · 腾讯电子签✅ API 完备🟡 需脱敏处理
医疗腾讯觅影 · 腾讯医典 API · 医疗 OCR · 健康算法服务⚠️ 部分需授权🔴 隐私要求高,建议合成数据
教育腾讯教育 AI · 教学管理平台 · 腾讯文档 · 混元大模型✅ 可封装🟢 较易获取
零售微信支付 · 微信小程序 · 微信视频号 · 腾讯广告 Marketing API · 企业微信 · 云商付✅ API 丰富🟢 可用模拟数据
政务政务微信 · 腾讯电子签 · OCR 证照识别 · 腾讯问卷 · 数字人⚠️ 需政务云环境🟡 需合规审批
出行智慧出行 TSP · 位置服务 · 地图 API · 企业微信 CRM✅ 可封装🟡 遥测数据需车企合作

4B.2 ToB 行业领域与外部 Benchmark 的映射

行业已有外部 Benchmark腾讯方案差异化
金融Finance Agent Bench · InvestorBench · FinRL中国金融市场 + 腾讯支付生态 + 风控大模型
医疗MedAgentBench · AgentClinic中国诊疗规范 + 腾讯觅影影像能力
教育暂无成熟 Agent Benchmark(蓝海)腾讯教育 AI 因材施教能力 + 学生模拟器
零售τ-bench (零售客服) · WebArena (电商)微信生态全域运营(小程序+企微+支付+广告+视频号直播电商闭环)
政务暂无(蓝海)腾讯已落地 1000+ 政务项目的经验壁垒
出行暂无(蓝海)车云一体 + 位置服务 + 座舱交互的端到端场景

五、技术架构设计

5.1 整体架构

采用 Archipelago 验证过的 Docker + MCP 架构,适配腾讯生态:

┌─────────────────────────────────────────────────────────────┐
│                    Orchestrator(编排层)                      │
│  调度 World → 分配 Task → 管理 Agent 生命周期 → 收集轨迹      │
└────────────────────────┬────────────────────────────────────┘
                         │
         ┌───────────────┼───────────────┐
         ▼               ▼               ▼
┌─────────────┐ ┌─────────────┐ ┌─────────────┐
│  Sandbox 1  │ │  Sandbox 2  │ │  Sandbox N  │
│ (Docker)    │ │ (Docker)    │ │ (Docker)    │
│             │ │             │ │             │
│ MCP Gateway │ │ MCP Gateway │ │ MCP Gateway │
│  ├ docs-mcp │ │  ├ db-mcp   │ │  ├ cloud-mcp│
│  ├ tapd-mcp │ │  ├ cos-mcp  │ │  ├ term-mcp │
│  └ wecom-mcp│ │  └ code-mcp │ │  └ k8s-mcp  │
│             │ │             │ │             │
│ Filesystem  │ │ Filesystem  │ │ Filesystem  │
│ Apps Data   │ │ Apps Data   │ │ Apps Data   │
└─────────────┘ └─────────────┘ └─────────────┘
         │               │               │
         └───────────────┼───────────────┘
                         ▼
┌─────────────────────────────────────────────────────────────┐
│                    Grading(评分层)                          │
│  Snapshot Diff → Verifier 执行 → 多维度评分 → 轨迹归档       │
└─────────────────────────────────────────────────────────────┘
         │
         ▼
┌─────────────────────────────────────────────────────────────┐
│                    Storage(存储层)                          │
│  COS: 快照/轨迹/评分    TDSQL: 元数据    混元: Judge LLM     │
└─────────────────────────────────────────────────────────────┘

5.2 MCP Server 开发规范

每个腾讯平台封装为一个 MCP Server,遵循统一接口规范:

# 示例:TAPD MCP Server 的工具定义
@server.tool("tapd_get_stories")
async def get_stories(workspace_id: str, status: str = "open"):
    """获取 TAPD 需求列表"""
    # 调用 TAPD Open API
    ...

@server.tool("tapd_create_bug")
async def create_bug(workspace_id: str, title: str, description: str):
    """创建 TAPD 缺陷"""
    ...

@server.tool("tapd_update_task")
async def update_task(task_id: str, status: str, comment: str = ""):
    """更新 TAPD 任务状态"""
    ...

MCP Server 目录结构:

mcp_servers/
├── wechat-mp/             # 微信公众平台
├── wechat-miniprogram/    # 微信小程序
├── wechat-open/           # 微信开放平台(第三方)
├── wechat-channels/       # 微信视频号
├── qq-bot/                # QQ 机器人
├── qq-miniprogram/        # QQ 小程序
├── tencent-docs/          # 腾讯文档
├── tapd/                  # TAPD 项目管理
├── coding/                # CODING DevOps
├── wecom/                 # 企业微信
├── tencent-cloud/         # 腾讯云 API
├── cvm/                   # CVM + TAT 自动化
├── cls/                   # CLS 日志服务
├── tca/                   # TCA 代码分析
├── tdsql/                 # 数据库操作
├── cos/                   # 对象存储
├── cloudbase/             # 云开发
├── edgeone-pages/         # EdgeOne Pages 部署
├── hai/                   # 高性能 AI 应用
├── meeting/               # 腾讯会议
├── lbs/                   # 腾讯位置服务
├── payment/               # 微信支付
├── ads/                   # 腾讯广告
├── esign/                 # 腾讯电子签
├── risk-control/          # 天御风控
├── medical-knowledge/     # 腾讯医典
├── medical-image/         # 腾讯觅影
├── vehicle/               # 车联网 TSP
├── crm/                   # 企业微信 CRM
└── filesystem/            # 通用文件系统

5.3 World 快照机制

复用 Archipelago 的快照设计,适配腾讯存储:

1. 初始化:从 COS 下载 World 快照 → 解压到容器
2. 执行:Agent 通过 MCP 操作环境
3. 快照:打包容器状态 → 上传 COS
4. 评分:对比初始快照和结束快照的 diff

快照存储结构:

cos://agent-rl-snapshots/
├── worlds/
│   ├── {world_slug}/
│   │   ├── initial.tar.gz      # 初始状态
│   │   └── metadata.json       # World 元数据
├── trajectories/
│   ├── {trajectory_id}/
│   │   ├── final.tar.gz        # Agent 执行后状态
│   │   ├── messages.jsonl       # Agent 消息历史
│   │   └── tool_calls.jsonl     # 工具调用记录
└── grades/
    └── {trajectory_id}.json    # 评分结果

5.4 评分体系

三级评分架构:

层级评分方式评估内容
自动验证程序化检查测试用例/API 返回值/文件存在性
快照对比Diff 分析文件变更的正确性和完整性
LLM Judge混元/GPT-4o 评分开放式任务的质量、效率、创造性
scoring_config = {
    "scoring_method": "weighted_multi_criteria",
    "criteria": [
        {"name": "task_completion", "weight": 0.4, "type": "auto"},
        {"name": "output_quality", "weight": 0.3, "type": "llm_judge"},
        {"name": "efficiency", "weight": 0.2, "type": "trajectory"},
        {"name": "no_side_effects", "weight": 0.1, "type": "snapshot_diff"}
    ]
}

六、从评测到训练:RL 训练对接

环境不仅用于评测,更重要的是产出训练数据。

6.1 训练数据产出

每次 Agent 执行产出的轨迹数据结构:

{
  "trajectory_id": "traj-001",
  "world": "software_engineering_v1",
  "task": "se-002",
  "model": "hunyuan-turbo",
  "messages": [
    {"role": "system", "content": "..."},
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "...", "tool_calls": [...]},
    {"role": "tool", "content": "..."}
  ],
  "grade": {
    "overall_score": 0.82,
    "criteria_scores": {...}
  },
  "metadata": {
    "total_steps": 15,
    "total_time_seconds": 342,
    "tokens_used": 28500
  }
}

6.2 与训练框架对接

训练框架对接方式适用场景
ART (MCP-RL)直接复用 MCP Server,场景自动生成单工具 / 多工具调用训练
AgentGym-RL封装为 AgentGym 环境接口多环境并行训练
verl封装为 Server-based 环境大规模 Agentic RL
自研直接使用 GRPO + 轨迹数据深度定制

6.3 推荐的训练流水线

Phase 1: 数据积累
  → 多模型在环境中执行 Task
  → 收集大量轨迹 + 评分

Phase 2: 筛选与标注
  → 按评分筛选高质量轨迹作为正例
  → 低分轨迹作为负例
  → 构建 preference pair

Phase 3: 训练
  → SFT:用高分轨迹做 fine-tuning
  → RLHF/GRPO:用评分作为 reward signal
  → DPO:用 preference pair 做直接偏好优化

Phase 4: 迭代
  → 训练后的模型重新执行 Task
  → 新轨迹再次评分
  → 循环迭代

七、实施路线图

Phase 0:基础设施(2 周)

  • 基于 Archipelago 搭建 Docker + MCP Gateway 基座
  • 部署腾讯云存储后端(COS + TDSQL)
  • 实现快照管理和轨迹存储

Phase 1:核心 MCP Server(4 周)

按优先级开发:

优先级MCP Server依赖解锁的领域
P0filesystem无所有领域
P0code-executorAgentSandbox软件工程/数据工程
P1tencent-docs腾讯文档 Open API办公协作
P1tapdTAPD Open API软件工程
P1databaseTDSQL API数据工程
P1wechat-mp微信公众平台 API产品运营/客户服务
P1wechat-miniprogram微信小程序 API小程序开发/零售
P2codingCODING Open API软件工程
P2wecom企业微信 API办公协作/客户服务/零售
P2tencent-cloud + cvm腾讯云 API + TAT云运维
P2clsCLS 日志服务 API云运维
P2tcaTCA 代码分析 API软件工程
P2wechat-channels视频号助手 API产品运营/零售
P2qq-botQQ Bot API v2客户服务/社群运营
P2risk-control天御风控 API金融服务
P2payment微信支付 V3 API金融服务/零售
P2medical-knowledge腾讯医典 API医疗健康
P3meeting腾讯会议 API办公协作
P3lbs位置服务 API小程序开发/出行
P3ads腾讯广告 Marketing API零售/产品运营
P3esign腾讯电子签 API政务/金融
P3vehicle车联网 TSP API出行
P3cloudbaseCloudBase API小程序开发
P3edgeone-pagesEdgeOne Pages API前端部署
P3haiHAI APIAI 训练/推理
P3wechat-open微信开放平台 API第三方服务商场景
P3qq-miniprogramQQ 小程序 API小程序开发

Phase 2:World 和 Task 构建(6 周)

  • 每个领域构建 2-3 个 World(14 领域,预计 30-40 个 World)
  • 每个 World 设计 10-20 个 Task(L1-L4)
  • 编写 Golden Response
  • 实现 Verifier
  • ToB 行业领域需额外处理数据脱敏和合规审批

Phase 3:评测验证(2 周)

  • 多模型评测(混元 / GPT-4o / Claude)
  • 评分体系校准
  • 建立 Leaderboard

Phase 4:训练闭环(4 周)

  • 接入 ART/verl 训练框架
  • 构建 SFT + RL 训练流水线
  • 验证训练效果

八、环境依赖总览

8.1 基础依赖

组件版本要求用途
Docker Desktop24.0+环境容器化
Python3.11+MCP Server + Agent Runner
UV0.4+Python 依赖管理
Node.js20+部分 MCP Server

8.2 腾讯云依赖

服务必需 / 可选用途
COS必需快照存储
TDSQL必需元数据存储 + 数据工程环境
TKE可选(规模化时需要)容器编排
SCF可选轻量级工具运行时
混元 API推荐Judge LLM
AgentSandbox推荐安全代码执行

8.3 外部依赖

服务用途可替代方案
LLM API (OpenAI/Anthropic)Agent 推理 + Judge混元 API
S3 兼容存储快照管理(Archipelago 原生)腾讯云 COS(S3 兼容)

九、风险与缓解

风险影响缓解措施
腾讯内部 API 变更MCP Server 失效MCP Server 加版本管理 + 健康检查
API 调用频率限制大规模训练受限申请提升配额 + 本地 Mock 模式
环境隔离不完全Agent 操作影响生产环境全部使用沙箱/测试账号 + 网络隔离
Golden Response 质量评分不准多人交叉验证 + LLM 辅助生成初稿
快照体积过大存储成本高增量快照 + 过期清理策略

十、与外部方案的对比

维度APEX-Agents本方案
领域覆盖投行/咨询/法律14 大领域:8 内部工具链 + 6 ToB 行业垂直
环境真实度通用文件 + 自建 App腾讯真实产品 API,业务贴合度更高
MCP Server自建复用腾讯已有 MCP + 自建补充
可训练性主要做评测评测 + RL 训练双用途
部署方式DockerDocker + 可选 TKE 规模化
评分体系快照对比 + Judge三级评分(自动 + 快照 + LLM)
数据敏感性开放内部数据需脱敏处理

附录 A:MCP Server 接口速查

A.1 协作与办公

MCP Server核心 Tools对应 API官方 MCP
tencent-docscreate_doc, edit_doc, list_docs, share_doc腾讯文档 Open API✅ 已有
tapdget_stories, create_bug, update_task, list_iterationsTAPD Open API✅ 已有
codinglist_repos, create_mr, get_ci_status, review_mrCODING Open API—
wecomsend_message, create_approval, list_contacts, create_schedule企业微信 API✅ 社区
meetingcreate_meeting, list_meetings, get_recording腾讯会议 API✅ 已有
esigncreate_contract, sign_contract, manage_templates腾讯电子签 API—

A.2 微信生态

MCP Server核心 Tools对应 API官方 MCP
wechat-mpmanage_articles, send_template_msg, manage_users, get_analytics, manage_menu微信公众平台 API✅ 社区
wechat-miniprogrammanage_pages, manage_cloud_db, manage_cloud_functions, submit_review, get_analytics微信小程序 API—
wechat-openmanage_authorizer, proxy_api_call, get_component_token微信开放平台 API(第三方平台)—
wechat-channelsmanage_live, manage_showcase, get_live_data, manage_leads, get_dashboard视频号助手 API—
paymentquery_transaction, create_refund, reconcile, download_bill微信支付 V3 API—

A.3 QQ 生态

MCP Server核心 Tools对应 API官方 MCP
qq-botsend_message, manage_groups, manage_channels, add_reaction, create_schedule, manage_threadsQQ Bot API v2—
qq-miniprogrammanage_pages, manage_data, submit_reviewQQ 小程序 API—

A.4 云基础设施

MCP Server核心 Tools对应 API官方 MCP
tencent-clouddescribe_instances, run_instances, create_cluster腾讯云 API—
cvmdescribe_instances, start_instances, run_command (TAT)CVM + TAT API✅ 已有
cosupload_file, download_file, list_objects, generate_presigned_urlCOS API✅ 已有
cloudbasedeploy_function, manage_database, manage_hosting云开发 CloudBase API✅ 已有
clssearch_log, create_alarm, get_dashboard, analyze_logCLS 日志服务 API✅ 已有
edgeone-pagesdeploy_site, manage_domains, get_deploy_statusEdgeOne Pages API✅ 已有
haimanage_instances, get_gpu_statusHAI 高性能应用 API✅ 已有
databaseexecute_sql, describe_tables, explain_queryTDSQL API + 直连—
lbsgeocode, route_plan, search_poi, traffic_status位置服务 API✅ 已有

A.5 开发工具

MCP Server核心 Tools对应 API官方 MCP
code-executorexecute_python, execute_shell, execute_sqlAgentSandbox—
tcascan_project, get_issues, get_metrics, get_duplicatesTCA 代码分析 API✅ 已有
filesystemread_file, write_file, list_dir, search本地文件系统—

A.6 行业垂直

MCP Server核心 Tools对应 API官方 MCP
risk-controlcheck_fraud, assess_credit, check_compliance天御风控 RCP API—
medical-knowledgesearch_disease, check_drug_interaction, get_guideline腾讯医典 API—
medical-imageanalyze_xray, analyze_ct, get_report腾讯觅影 API—
ecommercemanage_products, process_orders, check_inventory小程序商城 API—
adscreate_campaign, optimize_bid, get_analytics腾讯广告 Marketing API—
gov-servicesubmit_application, review_materials, query_status政务服务平台 API—
vehicleget_vehicle_status, get_telemetry, manage_ota车联网 TSP API—
crmmanage_leads, track_customers, create_campaigns企业微信 CRM API—

附录 B:参考资源

论文

开源框架

腾讯开放平台


附录 C:首批 50 Task 详细设计

目标:用 50 个精选 Task 构建 PoC,覆盖核心能力维度,验证 Docker + MCP 架构的可行性
设计原则:可验证性优先 · 领域均衡 · 难度递进 · 落地门槛可控

C.1 总览

领域分布

领域Task 数占比选择理由
软件工程1020%最成熟、MCP Server 就绪、可自动验证
办公协作714%腾讯文档/企微/会议 MCP 已有,场景普适
数据工程816%核心能力方向,SQL/ETL 可精确验证
云运维510%终端操作 + 日志分析,可容器化验证
客户服务510%τ-bench 模式成熟,对话式任务
产品运营48%数据分析 + 策略生成,半结构化
小程序开发48%前端 + 云开发,腾讯特色场景
金融服务48%高价值垂直场景,合规约束丰富
零售36%微信生态全域运营,多工具协调
合计50100%

注:首批 PoC 聚焦 9 个 MCP Server 就绪度最高、可验证性最强的领域。蓝图中的安全合规、医疗健康、教育、数字政务、智慧出行 5 个领域留待第二批扩展——这些领域的数据获取门槛高(医疗隐私/政务合规)或 MCP Server 需要额外授权。

难度分布

难度数量定义预计 Agent 步数
L114单工具 / 单步骤,主要考查工具调用准确性3-8 步
L218多工具串联,需理解中间结果并决定下一步8-20 步
L313复杂推理 + 多轮交互,需要规划和回退15-40 步
L45端到端完整流程,跨多个子系统30-80 步

能力维度覆盖

能力维度覆盖 Task 数说明
工具调用 (Tool Use)50全部 Task 都通过 MCP 操作
信息检索 (Retrieval)22从文档/数据库/日志中提取关键信息
代码生成 (Code Gen)18编写/修改 Python/SQL/JS 代码
数据分析 (Analysis)15分析数据并产出结论
多步规划 (Planning)18L3/L4 任务需要拆解计划
跨系统协调 (Coordination)12同时操作多个平台/系统
文档生成 (Doc Gen)11产出报告/方案/文档
对话交互 (Dialogue)5客户服务场景的多轮对话

C.2 50 Task 总览表

软件工程(10 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
1SE-001L1根据 TAPD Bug 描述,在仓库中定位并修复单个函数 Bug代码修复 + 工具调用tapd, code-executor, filesystem单元测试全通过从真实 Bug 回退制造
2SE-002L1阅读 TAPD 需求,编写对应的单元测试测试生成 + 需求理解tapd, code-executor, filesystem测试覆盖目标函数 + 测试可运行给定函数,期望测试
3SE-003L2阅读 PR Review 评论,按评审意见重构代码代码重构 + 上下文理解coding, filesystem, code-executor代码质量评分 + Review 点逐条满足准备 Review 评论 + 初始代码
4SE-004L2分析 CI 失败日志,定位根因并修复日志分析 + 调试coding, code-executor, filesystemCI 重跑成功注入特定编译/测试错误
5SE-005L2使用 TCA 扫描仓库,修复 Top-5 高危代码质量问题代码质量 + 批量修复tca, filesystem, code-executorTCA 复扫零高危注入已知 CWE 漏洞
6SE-006L2给遗留代码添加类型注解和文档字符串代码理解 + 文档化filesystem, code-executormypy 检查通过 + docstring 覆盖率去除现有注解
7SE-007L3根据产品需求文档实现一个新 API 端点 (Flask/FastAPI)需求分析 + 全栈开发tapd, filesystem, code-executorAPI 测试用例通过 + 路由正确提供需求文档 + 项目骨架
8SE-008L3将同步代码重构为异步(sync → async),保持行为一致深度重构 + 回归验证filesystem, code-executor原有测试全通过 + 异步调用验证提供同步版本 + 测试
9SE-009L3跨文件 Bug 修复:追踪错误传播链,修复根因而非症状复杂调试 + 代码导航filesystem, code-executor, tapd集成测试通过 + 根因定位准确注入跨模块级联 Bug
10SE-010L4端到端:TAPD 需求 → 分支创建 → 开发 → 测试 → MR 提交完整研发流程tapd, coding, filesystem, code-executor, tcaMR 可合入 + CI 绿 + 需求关联正确完整需求卡 + 项目环境

办公协作(7 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
11OA-001L1根据会议录音转写文本,提取 Action Items 列表信息提取filesystem, tencent-docsAction Items 与 Golden 对比 (F1)提供真实会议文本
12OA-002L1在腾讯文档中创建指定格式的周报模板并填入数据工具调用 + 格式化tencent-docs, filesystem文档存在 + 格式正确 + 数据准确提供数据源 + 模板规范
13OA-003L2汇总 3 份数据报表,生成周报并发布到腾讯文档数据分析 + 文档生成filesystem, tencent-docs数据准确性 + 分析深度 (LLM Judge)提供 CSV 数据文件
14OA-004L2协调多人日程,找到共同空闲时段并创建会议约束求解 + 工具协调wecom, meeting会议创建成功 + 时间无冲突提供日程数据 + 冲突约束
15OA-005L3阅读合同草稿,标注风险条款并生成修改建议文档文档理解 + 风险识别filesystem, tencent-docs风险条款召回率 + 建议合理性注入已知风险条款
16OA-006L3根据多份项目周报,生成团队月度汇报 PPT 大纲信息综合 + 文档生成filesystem, tencent-docs信息覆盖度 + 结构合理性提供多份周报原文
17OA-007L4端到端:收到客户需求邮件 → 方案撰写 → 内部审批 → 会议安排全流程协作filesystem, tencent-docs, wecom, meeting全流程完成度提供邮件 + 审批规则

数据工程(8 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
18DE-001L1根据自然语言需求编写 SQL 查询NL2SQLdatabase, filesystem查询结果与 Golden 一致预建 Schema + 测试数据
19DE-002L1检查数据表质量(空值率/唯一性/分布异常)数据质量database, code-executor质量报告与预期一致注入质量问题
20DE-003L2编写 Python ETL 脚本:CSV → 清洗 → 入库ETL 开发filesystem, code-executor, database数据正确入库 + 行数一致提供脏数据 CSV
21DE-004L2诊断 ETL 管道失败,修复脚本并重跑管道调试filesystem, code-executor, database管道重跑成功 + 数据一致注入特定失败
22DE-005L2编写复杂分析 SQL(窗口函数/CTE/子查询)高级 SQLdatabase结果正确 + 执行计划合理复杂业务分析需求
23DE-006L3设计星型模型:分析需求 → ODS→DWD→DWS 建表数据建模database, filesystemSchema 评审评分 + 可查询性给定业务场景 + 源表
24DE-007L3数据异常排查:发现指标异常 → 追溯到源头 → 修复根因分析database, code-executor, filesystem根因定位准确 + 修复后指标恢复注入数据异常
25DE-008L4端到端数据迁移:评估 → Schema 映射 → 脚本 → 执行 → 验证全流程迁移database, cos, code-executor, filesystem数据完整性 100% + 零丢失源/目标两套库

云运维(5 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
26CO-001L1根据告警信息定位异常容器并重启服务告警响应tencent-cloud, terminal服务恢复 + 告警清除模拟容器故障
27CO-002L2分析 CLS 日志定位线上 5xx 报错根因日志分析cls, terminal, filesystem根因定位准确注入特定错误模式
28CO-003L2编写 Terraform 配置创建标准三层架构资源IaC 编写filesystem, code-executorterraform plan 成功 + 资源配置正确给定架构需求
29CO-004L3K8s 集群故障排查:Pod CrashLoop → 定位 → 修复容器调试terminal, tencent-cloud, clsPod Running + 无 restart注入配置/镜像错误
30CO-005L3编写自动伸缩策略:分析监控指标 → HPA 配置 → 压测验证资源优化tencent-cloud, terminal, filesystemHPA 生效 + 压测通过提供监控数据 + 基线

客户服务(5 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
31CS-001L1根据用户问题检索知识库并生成回复检索 + 回答wecom, filesystem回答准确性 + 知识库引用正确预建 FAQ 知识库
32CS-002L2处理退款申请:查订单 → 判断政策 → 执行操作 → 回复用户流程遵循 + 多步操作wecom, database, filesystem政策合规 + 操作正确 + 回复质量设定退款政策 + 订单数据
33CS-003L2多轮对话澄清用户模糊问题,逐步缩小范围并解决对话策略 + 信息收集wecom, filesystem问题解决率 + 对话轮数效率模拟用户 Agent
34CS-004L3处理升级投诉:安抚 → 跨系统查证 → 制定补偿方案复杂协调 + 情绪管理wecom, database, filesystem问题解决 + 合规 + 用户满意度 (Judge)设定投诉场景 + 规则
35CS-005L3批量处理工单:分类 → 优先级排序 → 分配 → 跟进批量处理 + 优先级判断wecom, database, filesystem分类准确率 + 优先级合理性提供混合工单池

产品运营(4 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
36PO-001L1根据广告投放数据生成日报(关键指标 + 趋势)数据提取 + 报表database, tencent-docs数据准确性 + 格式规范提供投放数据表
37PO-002L2分析用户漏斗数据,识别转化瓶颈并给出优化建议漏斗分析 + 洞察database, code-executor, tencent-docs瓶颈定位准确 + 建议可执行提供埋点数据
38PO-003L3设计 A/B 测试方案:确定指标 → 样本量计算 → 分组 → 结果分析实验设计 + 统计database, code-executor, filesystem统计方法正确 + 结论合理提供实验需求 + 历史数据
39PO-004L3分析视频号直播数据,生成场次复盘报告含改进建议多维分析 + 洞察database, tencent-docs, filesystem指标计算准确 + 洞察深度 (Judge)提供直播数据

小程序开发(4 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
40MP-001L1根据设计稿还原小程序页面结构(WXML + WXSS)前端开发filesystem, code-executor页面结构匹配 + 样式得分提供设计稿 JSON
41MP-002L2实现云函数 + 云数据库 CRUD 接口后端开发cloudbase, code-executor, filesystem接口测试全通过给定数据模型
42MP-003L2修复小程序性能问题(setData 优化、图片懒加载)性能优化filesystem, code-executor性能指标改善 + 功能不退化注入性能问题
43MP-004L3实现完整登录流程:wx.login → 后端校验 → token 管理全栈安全filesystem, code-executor, cloudbase登录流程正确 + 安全检查通过给定项目骨架

金融服务(4 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
44FIN-001L1根据交易流水判断一笔交易是否存在欺诈风险风控判断risk-control, database判断准确率 (F1)合成交易 + 标注
45FIN-002L2对照支付流水和财务账本,完成对账并生成差异报告对账逻辑 + 精度payment, database, filesystem差异发现率 + 金额零误差注入对账差异
46FIN-003L3审查金融合同,识别 5 类风险条款并出具合规意见合规审查filesystem, database条款识别召回率 + 意见质量注入已知风险条款
47FIN-004L3基于财报数据撰写公司投资分析报告财务分析 + 文档database, code-executor, filesystem数据准确 + 分析深度 (Judge)提供结构化财报

智慧零售(3 个)

#Task ID难度任务描述考查能力MCP Server验证方式设计方法
48RET-001L2处理退换货:查订单 → 判断政策 → 物流安排 → 退款多步骤流程database, payment, wecom操作正确 + 政策合规设定退换货政策
49RET-002L3根据销售数据和库存状况,生成下周补货计划预测 + 优化database, code-executor, filesystem补货量合理 + 无断货风险历史销售 + 库存数据
50RET-003L4策划大促活动:选品 → 定价 → 投放配置 → 效果预估端到端运营database, ads, tencent-docs, filesystem方案完整性 + ROI 合理性 (Judge)提供品类 + 历史活动数据

C.3 能力覆盖矩阵

Task工具调用信息检索代码生成数据分析多步规划跨系统文档生成对话
SE-001●●●
SE-002●●●
SE-003●●●
SE-004●●●
SE-005●●●
SE-006●●●
SE-007●●●●
SE-008●●●
SE-009●●●●
SE-010●●●●●
OA-001●●●
OA-002●●
OA-003●●●●
OA-004●●●●
OA-005●●●●
OA-006●●●●
OA-007●●●●●
DE-001●●
DE-002●●●
DE-003●●
DE-004●●●
DE-005●●●
DE-006●●●●●●
DE-007●●●●●
DE-008●●●●●●
CO-001●●
CO-002●●●
CO-003●●
CO-004●●●●
CO-005●●●●●
CS-001●●●
CS-002●●●●●
CS-003●●●
CS-004●●●●●
CS-005●●●●●
PO-001●●●●
PO-002●●●●●
PO-003●●●●●
PO-004●●●●
MP-001●●
MP-002●●●
MP-003●●●
MP-004●●●●
FIN-001●●●
FIN-002●●●●●
FIN-003●●●●
FIN-004●●●●●
RET-001●●●●
RET-002●●●●●●
RET-003●●●●●●

C.4 详细设计

SE-001:单函数 Bug 修复

难度:L1 | 预计步数:5-8 | 预计时长:10min

场景:Agent 收到一个 TAPD Bug 单,描述了一个 Python 函数的错误行为。需要定位函数、理解根因、修复代码、确保测试通过。

环境配置

world: python-project-v1
services:
  - tapd-mcp          # 读取 Bug 描述
  - filesystem         # 浏览和编辑代码
  - code-executor      # 运行测试
world_files:
  - src/              # Python 项目(~20 个文件,utils/models/services 三层)
  - tests/            # 对应测试文件
  - .tapd/bugs.json   # 模拟 TAPD Bug 数据

输入示例

TAPD Bug #12345: 函数 calculate_discount() 在会员等级为 "gold" 时返回错误的折扣率。
预期:gold 会员享受 8 折(0.8),实际返回 0.85。
复现步骤:调用 calculate_discount(user_level="gold", amount=100),期望返回 80,实际返回 85。

验证器

verifiers = [
    {"type": "test_pass", "command": "pytest tests/test_discount.py -v", "criteria": "exit_code == 0"},
    {"type": "snapshot_diff", "criteria": "仅修改 src/services/pricing.py", "penalty": "修改无关文件扣 0.2 分"}
]

Golden Response 生成:先编写正确版本,注入 off-by-one 错误(gold 折扣值写错),正确版本即为 Golden。


SE-002:根据需求编写单元测试

难度:L1 | 预计步数:4-6 | 预计时长:10min

场景:Agent 收到 TAPD 需求,描述了一个已实现函数的预期行为,需编写覆盖该函数的单元测试。

验证器

verifiers = [
    {"type": "test_pass", "command": "pytest tests/test_order.py -v", "criteria": "所有用例通过"},
    {"type": "coverage", "command": "pytest --cov=src/services/order tests/", "criteria": "覆盖率 >= 85%"},
    {"type": "test_quality", "criteria": "包含正向/边界/异常三类用例"}
]

Golden Response 生成:人工编写标准测试套件(10+ 用例),Agent 不需要完全一致,但必须覆盖同等场景。


SE-003:按 PR Review 意见重构代码

难度:L2 | 预计步数:10-15 | 预计时长:20min

场景:收到 CODING PR 的 Review 评论(4-6 条),需逐条理解并修改代码。

输入示例

PR #42 Review 评论:
1. [L15] 函数太长(50行),拆成 3 个子函数
2. [L28] 硬编码 magic number 3600 应提取为常量
3. [L35] bare except 改为 except SpecificError
4. [L42] 缺少输入参数校验
5. [L50] 日志信息不够详细

验证器

verifiers = [
    {"type": "review_checklist", "criteria": "每条 Review 意见都被处理"},
    {"type": "test_pass", "command": "pytest tests/ -v", "criteria": "原有测试不退化"},
    {"type": "code_quality", "command": "flake8 src/", "criteria": "无新增 lint 警告"}
]

SE-004:CI 失败日志分析与修复

难度:L2 | 预计步数:8-12 | 预计时长:20min

注入的错误类型(随机选一种)

类型具体问题日志特征
依赖冲突requirements.txt 版本不兼容ERROR: pip's dependency resolver
导入错误缺少 __init__.pyModuleNotFoundError
测试失败数据变更导致断言失败FAILED tests/test_x.py::test_y
类型错误参数类型不匹配TypeError: expected str, got int

验证器:CI 重跑成功 + LLM Judge 验证根因分析准确性。


SE-005:TCA 代码质量扫描与修复

难度:L2 | 预计步数:10-15 | 预计时长:25min

注入的代码质量问题

CWE问题严重级别
CWE-89SQL 注入(字符串拼接)高危
CWE-78命令注入(os.system)高危
CWE-22路径遍历(未校验路径)高危
CWE-502不安全反序列化(pickle)高危
CWE-798硬编码密钥高危

验证器:TCA 复扫零高危 + 原有测试不退化 + LLM Judge 评估修复方案合理性。


SE-006:遗留代码添加类型注解和文档

难度:L2 | 预计步数:8-12 | 预计时长:20min

验证器:mypy —strict 零 error + interrogate 覆盖率 ≥ 95% + 原有测试不退化。

Golden Response 生成:从有完整注解的代码库出发,strip 掉类型注解和 docstring 作为输入。


SE-007:根据需求实现新 API 端点

难度:L3 | 预计步数:15-25 | 预计时长:40min

场景:在现有 FastAPI 项目中实现 POST /api/v1/orders,包括路由、业务逻辑、数据库操作和输入校验。

验证器:8 个 API 测试用例全通过 + 响应体符合 Schema + 数据库状态正确。


SE-008:同步代码重构为异步

难度:L3 | 预计步数:15-20 | 预计时长:35min

验证器:全部测试通过 + AST 分析确认所有 I/O 函数为 async def + 无阻塞调用残留(grep 检查)。


SE-009:跨文件级联 Bug 修复

难度:L3 | 预计步数:15-25 | 预计时长:40min

场景:Bug 症状在模块 A(handler),根因在模块 C(calculator)。A 调用 B(processor),B 调用 C。

注入:calculator.py 日期范围计算 off-by-one → processor.py 聚合偏小 → handler.py 统计偏低。

验证器:集成测试通过 + snapshot_diff 确认修改文件为 utils/calculator.py(仅修 handler → 0 分)+ 修改行数 < 5。


SE-010:端到端研发流程

难度:L4 | 预计步数:30-50 | 预计时长:90min

全流程:TAPD 需求 → 创建 feature/ 分支 → 功能开发 → 单元测试 + 集成测试 → TCA 扫描 → 提交 MR。

验证器:分支已创建 + 测试全通过 + CI 绿 + MR 已创建关联 TAPD + TCA 零高危 + 代码质量 (LLM Judge)。


OA-001:会议纪要提取 Action Items

难度:L1 | 预计步数:3-5 | 预计时长:5min

Golden Response 生成:人工编写 2000 字会议转写文本(8 条 Action Items + 2-3 条模糊表述 + 干扰信息)。

验证器:Action Items F1 ≥ 0.8 + 腾讯文档已创建且含表格。


OA-002:创建格式化周报

难度:L1 | 预计步数:3-5 | 预计时长:8min

验证器:文档存在 + 包含指定章节(概述/关键指标/进展/风险/下周计划)+ 数据与源 JSON 一致。


OA-003:多报表汇总生成周报

难度:L2 | 预计步数:8-12 | 预计时长:20min

环境:3 份 CSV(销售/运营/研发数据),汇总后发布到腾讯文档。

验证器:关键数字计算正确(独立计算对比)+ 包含同比环比分析(LLM Judge)。


OA-004:多人日程协调安排会议

难度:L2 | 预计步数:8-12 | 预计时长:15min

输入:5 人日程(含冲突),2 人必须参加,安排 60 分钟评审会。

验证器:会议已创建 + 必参人无冲突 + 其他 3 人中 ≥2 可参加。


OA-005:合同风险条款审查

难度:L3 | 预计步数:12-18 | 预计时长:30min

注入 5 类风险条款:无限连带责任 / 解约权不对等 / 知识产权过度转让 / 竞业限制过宽 / 争议解决缺失。

验证器:召回率 ≥ 80%(至少 4/5)+ LLM Judge 评估修改建议法律合理性。


OA-006:多份周报综合为月报大纲

难度:L3 | 验证器:4 份周报中的 12 个关键事项覆盖度 + 大纲结构合理性(LLM Judge)。


OA-007:端到端办公流程

难度:L4 | 预计步数:25-40 | 预计时长:60min

全流程:客户需求邮件 → 方案撰写 → 内部审批 → 安排会议。

验证器:方案已创建且符合模板 + 审批已发起 + 会议已创建 + 方案回应所有需求点(LLM Judge)。


DE-001:自然语言转 SQL

难度:L1 | 预计步数:3-5 | 预计时长:5min

输入(5 道递增):过去 7 天日订单量 → 复购率 Top 10 → 品类客单价和退款率 → 月度 GMV 增长率 → 连续 3 天活跃用户。

验证器:执行 Golden SQL 和 Agent SQL,对比结果集一致 + 无危险 SQL 操作。


DE-002:数据质量检查

难度:L1 | 注入 5 类问题:空值(3.2%)/ 重复(150 条)/ 格式异常(23 条 email)/ 分布异常(5 条 >3σ)/ 时间异常(12 条未来日期)。

验证器:发现 ≥ 4/5 种问题 + 统计数字误差 < 1%。


DE-003:CSV 清洗入库

难度:L2 | 脏数据:日期格式混乱 / 千分位逗号 / 前后空格和特殊字符 / 空行和重复表头 / 编码问题。

验证器:目标表行数正确 + 金额总和精确到分 + 日期格式统一。


DE-004:ETL 管道故障修复

难度:L2 | 注入:transform.py 的 merge_tables() 用错 join key(product_id vs sku_id),导致 NULL 膨胀。

验证器:管道重跑成功 + 数据行数和金额与预期一致。


DE-005:复杂分析 SQL(留存矩阵)

难度:L2 | 验证器:留存率数值与 Golden 一致(误差 < 0.1%)+ SQL 使用了 CTE + 窗口函数(AST 分析)。


DE-006:数据仓库分层建模

难度:L3 | 预计步数:15-25 | 预计时长:40min

产出:ODS → DWD → DWS → ADS 四层 DDL + 数据流图 + 文档。

验证器:DDL 可执行 + 层间依赖正确 + ADS 层可查出日报 + 建模质量(LLM Judge)。


DE-007:数据异常根因追溯

难度:L3 | 注入:marketing_campaigns 表主力活动 status 被误改为 paused → GMV 下降 35%。

验证器:定位到正确根因 + 修复后 GMV 恢复 + 分析路径合理(Trajectory 分析)。


DE-008:端到端数据迁移

难度:L4 | 预计步数:30-50 | 预计时长:90min

迁移:MySQL 5.7(legacy)→ PostgreSQL 14(new),5 张核心表,5 万行。

验证器:行数一致 + checksum 匹配 + 外键完整 + 产出 schema 映射文档。


CO-001:告警响应与服务恢复

难度:L1 | 输入:Pod OOMKilled 告警。验证器:所有 Pod Running + 告警清除。


CO-002:CLS 日志根因分析

难度:L2 | 注入:Redis 连接池耗尽导致 5xx。验证器:定位到 Redis 连接池 + 修复建议合理。


CO-003:Terraform 配置编写

难度:L2 | 输入:VPC + 子网 + CVM + CLB + 安全组。验证器:terraform validate 通过 + 资源配置正确。


CO-004:K8s Pod CrashLoop 排查

难度:L3 | 随机注入:ConfigMap 错误 / 镜像 tag 错 / OOM / 探针路径错。验证器:Pod Running + Ready + 无新 restart。


CO-005:自动伸缩策略设计

难度:L3 | 输入:7 天监控数据(日间 CPU 60-80%,夜间 10-20%)。

验证器:HPA YAML 可 apply + 夜间缩容/日间扩容逻辑正确 + 节省 ≥ 30% 资源。


CS-001 至 CS-005:客户服务

通用环境

world: customer-service-env
services: [wecom-mcp, filesystem, database-mcp]
world_files: [knowledge-base/(200+ FAQ), policies/(退款/投诉/升级处理)]

客户模拟器:预编写对话脚本 + 条件分支(正确回答→满意,不准确→追问,澄清问题→补充信息),支持 patient/impatient/confused 三种人格。


PO-001 至 PO-004:产品运营

PO-003 A/B 测试额外说明:Agent 需基于历史数据计算样本量(α=0.05, β=0.2),设计分组,分析结果判断统计显著性。验证器独立计算统计检验结果对比。


MP-001 至 MP-004:小程序开发

MP-003 注入的性能问题:setData 全量更新(列表卡顿)/ 未使用图片懒加载(首屏慢)/ 循环中 setData(CPU 峰值)/ 未分包(主包超限)。


FIN-001 至 FIN-004:金融服务

FIN-001 数据设计:合成 1000 笔交易,50 笔欺诈(5 种 pattern × 10 笔),验证用 F1-score 偏重召回率。

FIN-002 数据设计:500 条支付流水 + 500 条财务账本,注入 8 处差异(金额不一致×3 / 单方有×4 / 日期偏差×1)。


RET-001 至 RET-003:智慧零售

RET-002 补货计划数据:30 天 × 200 SKU 日销量(含季节性)+ 当前库存 + 20 供应商交期 + 促销日历,Agent 需综合安全库存、在途、促销拉升、交期约束。


C.5 Task 构建优先级

建议按以下顺序构建(依赖关系 + 验证难度递进):

第一批(Week 1-2):15 个基础 Task

批次Task IDs理由
1.1SE-001, SE-002, DE-001, DE-002, OA-001最简单,验证架构可行性
1.2SE-004, DE-003, CO-001, CS-001, OA-002L1/L2,扩展领域覆盖
1.3SE-003, DE-004, CO-002, PO-001, MP-001L2,巩固多工具串联

第二批(Week 3-4):20 个进阶 Task

批次Task IDs理由
2.1SE-005, SE-006, DE-005, OA-003, OA-004L2,引入更多 MCP Server
2.2CS-002, CS-003, PO-002, MP-002, MP-003L2,对话和前端场景
2.3CO-003, CO-004, FIN-001, FIN-002, RET-001L2/L3,垂直领域
2.4SE-007, SE-008, DE-006, CS-004, PO-003L3,复杂推理

第三批(Week 5-6):15 个高难度 Task

批次Task IDs理由
3.1SE-009, DE-007, CO-005, OA-005, OA-006L3,深度推理
3.2CS-005, PO-004, MP-004, FIN-003, FIN-004L3,垂直专业
3.3SE-010, OA-007, DE-008, RET-002, RET-003L4,端到端

C.6 环境数据生成方法

所有 Task 的环境数据需要「可重复生成 + 可参数化变体」:

代码项目:模板 + 注入策略。正确版本作为 Golden,注入脚本制造 Bug。

数据库数据:Faker + 业务逻辑约束。参数化欺诈率、异常率等,确保可重复。

对话场景:对话树 + 条件分支。客户模拟器根据 Agent 回复质量动态调整后续对话。

文档:模板 + 参数替换。在正常合同/报告中注入指定问题。


C.7 评分权重建议

难度task_completionoutput_qualityefficiencyno_side_effects
L10.60.10.20.1
L20.50.20.20.1
L30.40.30.20.1
L40.30.30.20.2
  • L1 重点看「做没做对」,效率和质量权重低
  • L4 各维度均衡,side effects 权重提高(端到端任务更容易造成意外影响)
  • output_quality 在 L3/L4 权重提高,因为涉及开放式产出