模型能力趋同之后,harness 才是真正的护城河

当顶级 LLM 的基础能力已经高度相似,coding agent 的差异化正在从模型层转向 harness 层——上下文管理、工具设计、内存策略,决定了用户实际感受到的 AI 能力。

工程实践 coding agent agent harness 工程实践 LLM

「把最强的开源模型放进类似的 harness,它的表现很可能和 GPT-5.4 在 Codex 里差不多。」

这句话来自 Sebastian Raschka 4 月初的 newsletter Components of A Coding Agent。它说的不是挑衅,而是一个越来越清晰的工程现实:模型正在趋同,harness 才是差距所在。

为什么模型能力开始趋同

2026 年上半年,顶级 LLM 的基础能力已经相当接近。无论是 GPT-5.4、Claude Opus 4.6 还是 GLM-5,在 plain chat 场景下的表现差距相对微小。Raschka 在文章里直接说:

“Since, in my view, the vanilla versions of LLMs nowadays have very similar capabilities, the harness can often be the distinguishing factor that makes one LLM work better than another.” — Sebastian Raschka,Components of A Coding Agent

这不是说模型不重要。更强的底座确实提供了更好的基础。但在 coding agent 这个场景里,代码工作只有一部分是 next-token 生成。更多的工作是:在大型代码库里导航、搜索函数定义、应用 diff、执行测试、检查错误报告、在整个 session 里保持一致的上下文。这些不是模型本身能解决的,而是 harness 要处理的。

Coding Agent Harness 的六个核心组件

Raschka 把 coding harness 拆解成六个主要模块,这是一个清晰的工程框架:

1. Repo Context Management:如何从大型代码仓库里抽取相关上下文?不是把整个 repo 塞进 prompt,而是智能地选取相关文件、函数定义和依赖关系。Claude Code 用了 Tree-sitter 做 AST 解析;Codex 有专门的 repo-level 搜索。

2. Tool Design:工具的接口设计直接影响模型表现。太宽泛的工具(比如「edit any file」)会让模型困惑;精心设计的原子工具(read_file, search_symbol, run_test, apply_diff)更能引导正确的行为。

3. Prompt Cache Stability:system prompt 和常用上下文如果能保持稳定,inference cost 可以大幅下降(前缀缓存命中)。harness 要尽量把「稳定部分」和「变化部分」分开。

4. Memory and Session Continuity:跨步骤、跨会话的记忆管理。一个 3 小时的 coding session 里,agent 怎么保持对任务进度的认知?这是纯 LLM 无法回答的问题。

5. Long-Context Management:随着 session 变长,context 会爆炸。harness 要决定什么可以截断、什么必须保留、什么可以压缩(例如 Cursor Composer 2 的 self-summarization 策略——主动把旧的 context 总结成简短记录)。

6. Iterative Feedback Loop:执行测试、观察错误、修正代码——这个循环的工程实现决定了 agent 能不能真正「自主」完成任务,还是需要不断人工干预。

harness-specific post-training 的价值

Raschka 提到了一个微妙但重要的点:虽然一个好的通用模型放进好的 harness 能表现很好,但针对 harness 的专门 post-training 依然有额外收益。

这就是为什么 OpenAI 历史上维护了 GPT-5.3 和 GPT-5.3-Codex 两个变体,也是为什么 Cursor 选择基于 Kimi K2.5 进行进一步训练而不是直接用通用模型。模型在 harness 的具体工具接口、prompt 格式、错误反馈模式下多次迭代,会产生更自然的工具调用习惯。

这个逻辑意味着:训练和部署环境的高度一致性变得至关重要。Cursor 在论文 Composer 2 Technical Report 里明确提到,他们在训练时维护了一个 shadow deployment,让 RL rollout 在和生产完全相同的工具和提示格式下运行。这不是巧合,这是设计原则。

对行业格局的影响

如果 harness 是真正的竞争壁垒,那么几个推论:

  • 开源模型 + 好的 harness 可以击败闭源模型 + 平庸的 harness。 这对初创公司是机会,对大公司是威胁。
  • 垂直场景比通用场景更容易建立护城河。 coding 是一个有明确可验证 reward(测试通过/不通过)的领域,harness 可以快速迭代。医疗、法律等领域类似。
  • “我们用了最好的模型”不再是充分的卖点。 用户体验的差异更多来自上下文策略、工具设计和内存管理。

Sebastian Raschka 的文章附带了一个 mini-coding-agent 开源实现,值得学习 harness 工程的基本结构。

模型军备竞赛还会继续,但 2026 年开始,harness engineering 正在悄悄成为另一条赛道。