跳到正文
Redwood Research:Blog· Gosha Kozhevnikov·· 27 天前AI 评分57

Redwood Research 发布 Screwtape:通过对抗性轨迹编辑对监控器做红队测试

Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming

AI 导读

Redwood Research 介绍 Screwtape,一条把真实 agent 轨迹编辑成可绕过纯行为监控器攻击的流水线,并用自建 Opus 4.8 和 Gemini 3.1 Pro 监控器迭代。在 94 份真实轨迹上运行 252 次得到 35 个绕过攻击,其中 6 个还绕过某前沿厂商的 held-out 监控器并经人工确认;论文与实现细节见原文,实现暂不公开。

来源:Redwood Research:Blog · blog.redwoodresearch.org