OpenAI:Alignment 研究博客· Maja Trębacz, Sam Arnesen, Ollie Matthews, Dylan Hurd, Won Park, Owen Lin, Joe Gershenson·精选AI 评分77
OpenAI 在 Codex 中发布 Auto-review,用独立智能体审批越界操作
Auto-review of agent actions without synchronous human oversight
AI 导读
OpenAI 上周在 Codex 中发布 Auto-review 模式,用另一个 Codex 智能体代替人工审批沙箱边界外的操作,Codex 会话人工审批频率比手动模式降低约 200 倍。
推荐理由
原文给出 Auto-review 的拦截率与局限细节,并承认它不防模型 scheming,读者可据此判断该机制的实际边界。
来源:OpenAI:Alignment 研究博客 · alignment.openai.com