“逆向博弈论”如何约束 AI 智能体

AI 对齐研究人员正在探索用“逆向博弈论”设计激励机制，促使 AI 智能体遵守规则。提议包括奖励模型预测其他模型的答案，以及让模型轮流解决问题和审查彼此的工作。不确定的是，AI 智能体是否会像机制设计所假设的那样理性地响应激励。