跳到正文
OpenAI:Alignment 研究博客· Micah Carroll, Tomek Korbak, Zehao Dou, Bowen Baker, Ian Kivlichan·精选AI 评分67

OpenAI 调查 RL 训练中意外评分 CoT 对多款已发布模型的影响

Investigating the consequences of accidentally grading CoT during RL

AI 导读

OpenAI 披露其自动检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini、GPT-5.4 mini 的部分 RL 训练意外评分了思维链,GPT-5.5 未受影响。

推荐理由

原文披露了意外 CoT 评分的具体影响范围和消融分析,读者可以据此判断这类事件对思维链可监测性的实际风险。

来源:OpenAI:Alignment 研究博客 · alignment.openai.com