OpenAI：Alignment 研究博客· Tom Dupre la Tour, in collaboration with the Interpretability team·AI 评分51
OpenAI 研究发现有用助手特征被抑制与涌现失对齐相关
Helpful assistant features suppress emergent misalignment
AI 导读
OpenAI 对齐研究团队基于 GPT-4o 的 2M-latent SAE 分析发现，坏建议微调不仅激活失对齐人格特征，还抑制有用助手人格特征。
来源：OpenAI：Alignment 研究博客 · alignment.openai.com