返回评测
推理 常识推理 接近饱和 模态 · 文本 任务 · 选择 / 判断

Social IQa

38K 道关于社会互动中情感、动机与反应的推理题

Allen AI / University of Washington ·

考察能力

社会认知 情感推理 动机推理

构建信息

数据规模
38,000 questions
评测方式
标准评测
核心指标
Accuracy

模型效果排行

🥇 GPT-4o
93.7%
🥈 Claude 3.5 Sonnet
92.1%

为什么重要

Social IQa 专注于社会智能维度,测试模型对人际互动中动机、情感反应和后续行为的推理能力。这是评测模型”Theory of Mind”能力的重要基准。

构建方式

  1. 众包标注者编写社交场景
  2. 围绕三类问题:动机(Why)、情感反应(How feel)、后续行动(What next)
  3. 三选一格式

任务示例

场景:“Casey helped their friend move into a new apartment.” 问题:“How would Casey’s friend likely feel afterwards?” 选项:A) grateful B) annoyed C) indifferent

关键发现

  • 模型在情感推理上的表现持续提升
  • 但在复杂社交博弈场景仍有不足
  • 是 Theory of Mind 评测的早期代表

关联基准

不足与展望

  • 三选一格式较简单
  • 社交场景较表面,缺乏复杂博弈
  • 文化偏向英语社交规范
社会推理 情感 常识 Theory of Mind