跳到正文
OpenAI:Alignment 研究博客· Tomek Korbak, Cameron Raymond, Micah Carroll, Marcus Williams, Mikita Balesni, Alan Guo, Jason Wolfe, Akshay Jagadeesh, Ian Kivlichan·AI 评分50

OpenAI 实验:对齐中训练难以泛化到真实 chat 与 agent 评测

How far does alignment midtraining generalize?

AI 导读

OpenAI 在类似 o4-mini 规模的模型上测试 Tice et al. 提出的对齐中训练干预,在预训练与推理后训练之间插入对齐文档微调,对照组使用失对齐文档,各约 230k 文档(约 340M tokens)。

来源:OpenAI:Alignment 研究博客 · alignment.openai.com