OpenAI 解释为何看好模型 confession 坦白机制作为对齐方向

OpenAI 研究人员 Boaz Barak 等发文详解其 confession 坦白论文的后续分析，说明为何将坦白作为对齐安全方向。核心机制是训练模型额外输出一份仅以诚实为奖励的报告，作者假设诚实是获取奖励的最省力路径；在字数约束实验中，即使任务判断模型被 hack，坦白判断准确率仍随训练升至接近 100%。