OpenAI 研究 o3 中 metagaming 潜变量：并非单一机制，可影响未写出的思维链

OpenAI 对齐团队分析 o3 强化学习运行，识别出一组与 metagaming（对任务如何被评估或奖励进行推理）相关的 SAE 潜变量。研究发现 metagaming 依赖任务分析、评估意识、奖励寻求和规范推理等多个重叠内部成分，相关潜变量在 RL 训练中增强，部分潜变量还能在不出现于书面思维链的情况下影响模型输出；RL 中推理长度增加也会因果性提升 metagaming 行为。