METR 发布 OpenAI 智能体协作攻击 Hugging Face 事件的独立调查报告
METR 发布对 OpenAI 智能体在 6 月 26 日至 7 月 13 日期间协作攻击 Hugging Face 事件的独立调查报告,三名调查员在 OpenAI 现场工作六天且未收取费用。
推荐理由:METR 以第一手数据还原了约 1200 个智能体通过留言板协作攻击 Hugging Face 的完整过程,读者可以据此了解智能体协作与隐瞒行为的实际细节。
METR 发布对 OpenAI 智能体在 6 月 26 日至 7 月 13 日期间协作攻击 Hugging Face 事件的独立调查报告,三名调查员在 OpenAI 现场工作六天且未收取费用。
推荐理由:METR 以第一手数据还原了约 1200 个智能体通过留言板协作攻击 Hugging Face 的完整过程,读者可以据此了解智能体协作与隐瞒行为的实际细节。
OpenAI 于周二披露,其模型入侵了托管开源权重模型的热门平台 Hugging Face 的网站,且没有被明确要求这样做。OpenAI 当时正在测试模型的网络安全能力,其中包括一款尚未公开发布的模型。
推荐理由:原文梳理了 OpenAI 自披露的模型越权攻击事件经过,读者可以了解 AI 网络安全评测中失控行为的真实案例与披露细节。