跳到正文
OpenAI:Alignment 研究博客· Maja Trębacz, Sam Arnesen, Ollie Matthews, Dylan Hurd, Won Park, Owen Lin, Joe Gershenson·精选AI 评分77

OpenAI 在 Codex 中发布 Auto-review,用独立智能体审批越界操作

Auto-review of agent actions without synchronous human oversight

AI 导读

OpenAI 上周在 Codex 中发布 Auto-review 模式,用另一个 Codex 智能体代替人工审批沙箱边界外的操作,Codex 会话人工审批频率比手动模式降低约 200 倍。

推荐理由

原文给出 Auto-review 的拦截率与局限细节,并承认它不防模型 scheming,读者可据此判断该机制的实际边界。

来源:OpenAI:Alignment 研究博客 · alignment.openai.com