同价格,贵了 40%:Claude Opus 4.7 的 Tokenizer 升级代价

Anthropic 在 Opus 4.7 中更换了 tokenizer,相同文本消耗的 token 数增加最高 1.46 倍。能力提升了,但实际成本的涨幅比标价显示的更高。

工程实践 tokenizer Claude 推理成本 工程实践 Anthropic

Anthropic 发布 Claude Opus 4.7 时,定价和 4.6 完全相同:$5/M 输入 token,$25/M 输出 token。但 Simon Willison 实测后发现,相同内容在 4.7 上消耗的 token 数高达 4.6 的 1.46 倍。

账面价格没变,实际账单涨了 40%。

Tokenizer 换了什么

Anthropic 在 Opus 4.7 发布公告里承认了这一变化:

“Opus 4.7 uses an updated tokenizer that improves how the model processes text. The tradeoff is that the same input can map to more tokens—roughly 1.0–1.35× depending on the content type.” — Anthropic,Claude Opus 4.7 发布公告

官方给出的倍率范围是 1.0–1.35x。但 Willison 把 Claude 自己的系统提示(Opus 4.7 system prompt)丢进去测试,得到了 1.46x——超出了官方预期。

他随后发布了升级版的 Claude Token Counter 工具,可以同时对比 4.7 和 4.6 的 token 消耗,让工程师在迁移之前先量化影响。

内容类型影响差异很大

有趣的是,不同内容的膨胀率差别显著:

内容类型倍率(4.7 vs 4.6)
纯文本(system prompt)~1.46x
高分辨率图片(3456×2234px)~3.01x
低分辨率图片(682×318px)~1.01x(几乎无变化)
15MB PDF(30页文字密集型)~1.08x

高分辨率图片的 3x 膨胀起初看起来很吓人,但 Willison 发现这是因为 Opus 4.7 本身支持了更高分辨率(最高 2576 像素长边,约 3.75 百万像素,是 4.6 的三倍多)——如果控制分辨率相同,token 数几乎不变。

所以:高分辨率图片多花的钱,是”买到了更好的 vision 能力”的代价,而不是纯粹的膨胀。纯文本场景的 1.46x 才是值得关注的隐性成本上涨。

为什么要换 tokenizer

Tokenizer 通常是模型里最不被关注的部分——大多数版本迭代不会动它,因为改动成本高、兼容性风险大。Anthropic 这次选择更换,说明他们认为收益足够大。

具体改进没有在公告里详细展开,但有几个常见动机:

  • 更好地处理代码(减少代码 token 数,提高代码生成效率)
  • 改善多语言性能(中文、日文等非拉丁字符系统)
  • 优化结构化格式(JSON、XML、Markdown 等)

从工程角度看,tokenizer 的更新也意味着模型无法直接从 4.6 蒸馏或 fine-tune——vocab 变了,embedding 层就不兼容了。

对工程师意味着什么

如果你在用 Opus 4.7 跑生产任务,特别是长系统提示或大量文本输入的场景,需要重新估算成本。几个实际建议:

  1. 先用 token counter 测量实际倍率:官方给的 1.0–1.35x 是平均值,你的具体内容可能超出这个范围
  2. 关注 system prompt 膨胀:system prompt 在每次请求里都会重复计费,如果你的 system prompt 很长,1.46x 的倍率会放大影响
  3. 图片成本要重新计算:低分辨率几乎不变,高分辨率变化大,取决于你是否真的需要 4K 级别的图片理解
  4. PDF 场景相对友好:1.08x 的倍率说明 PDF 处理的成本增幅较小

Simon Willison 的测量方法值得参考:他把 Opus 4.7 自己的系统提示(约 2000+ token)作为测试内容,这是一个有代表性的真实 payload,不是人造的极端 case。

开放的问题

Anthropic 在官方文档里承认了 token 膨胀,但没有公布新 tokenizer 的词表大小、编码算法或具体设计目标。对于需要精确成本预测的工程团队来说,这种不透明有一定影响。

更大的问题是:随着模型迭代越来越快,tokenizer 级别的变化会不会越来越频繁?这次是 Anthropic,下次可能是任何一家在悄悄换编码方案。成本模型的稳定性,可能比我们想象的更脆弱。