MIT Technology Review 解读逆向博弈论如何约束 AI 智能体

MIT Technology Review 介绍用逆向博弈论（机制设计）设计激励规则来约束 AI 智能体的对齐新思路。MIT 经济学家 Stephen Morris 等的预印论文提出让模型回答被另一个模型的预测来交叉验证、以及对冲偏差智能体配对等机制，以阻止模型在测试中故意藏拙；Princeton 的 Elad Hazan 则建议让模型轮流担任求解器和审计者并按结果奖惩。