Ai2 / Allen Institute for AI·AI 评分52
Goodfire 用 Ai2 开放后训练栈追踪 Olmo 3 的安全回归
How Goodfire used Ai2’s open post-training stack to trace unwanted model behavior
AI 导读
Goodfire 基于 Ai2 完全开放的后训练栈，展示了如何在偏好训练前预测行为变化、把 Olmo 3 的安全回归追溯到 Dolci 数据集中的具体偏好样本，并测试在不损失能力提升的前提下修正回归。
来源：Ai2 / Allen Institute for AI · allenai.org