OpenAI：Alignment 研究博客· Axel Højmark, Jérémy Scheurer, Jenny Nitishinskaya, Felix Hofstätter, Jason Wolfe, Theodore Ehrenborg, Bronson Schoen, Alexander Meinke·精选AI 评分74
OpenAI 与 Apollo Research 提出 Contrastive SDF 测量模型奖励寻求倾向
Measuring Reward-Seeking by Instilling Contrastive Beliefs
AI 导读
OpenAI 与 Apollo Research 发布 Contrastive Synthetic Document Finetuning 测试方法，通过向模型两份副本分别灌注相反的评分器信念，测量行为对评分器偏好的因果敏感性。
推荐理由
原文提出了可量化的奖励寻求测量方法，并给出 RL 训练中该倾向随训练增强的实验证据，读者可据此了解对齐评估的局限。
来源：OpenAI：Alignment 研究博客 · alignment.openai.com