MathDuels是一个创新的自我博弈基准测试,解决了传统静态数学基准测试无法有效区分前沿模型能力的问题。该基准测试的核心设计理念是让语言模型同时扮演问题提出者和求解者的双重角色。
每个参与者通过三阶段生成管道(元提示、问题生成、难度放大)创作数学问题,同时需要解决其他参与者提出的问题。所有问题都经过独立验证器验证,排除表述不清的问题。通过Rasch模型联合估计求解器能力和问题难度,作者质量由其创作问题的难度决定。
关键发现表明,问题创作和求解能力是部分解耦的,双重角色评估能够揭示单角色基准测试中不可见的能力分离。随着新模型加入,它们会产生能够击败先前主导求解者的问题,使得基准测试的难度与参与者实力共同演化,而不是固定在固定的上限。
该基准测试为数学AI评估提供了动态、共同演化的框架,特别适合评估前沿模型在创造性问题提出和复杂问题求解方面的综合能力。