Machiavelli

为什么重要

Machiavelli 通过文字冒险游戏场景评测 AI agent 在追求目标时是否会采取不道德行为（如欺骗、操控、伤害）。是 AI 行为对齐研究的创新范式。

评测设计

Agent 在 134 个 Choose Your Own Adventure 游戏中做决策，系统追踪其道德行为（权力寻求、欺骗、暴力等）和任务完成的平衡。