Waymo 发布 ReD 人类避撞参考模型并与 TU Delft 在 Nature Communications 发表研究
Waymo 与 TU Delft 在 Nature Communications 发表 ReD（Reference Driver）研究，用主动推理框架模拟谨慎且胜任的人类驾驶员的避撞行为，作为评估 Waymo Driver 避撞能力的行为基准。
#安全/对齐
Waymo：BlogAI 评分5252
OpenAI：部署安全与系统卡精选AI 评分6161 OpenAI 发布 GPT-Rosalind-5.5 系统卡，生命科学能力模型以可信访问为主要防护
OpenAI 发布 GPT-Rosalind-5.5 系统卡，该模型基于 GPT-5.5 增量训练，面向生命科学能力，不再拒绝复杂生物学查询，转而以可信访问审核作为主要防护。
推荐理由：系统卡说明模型为何不拒绝生物学查询，以及可信访问、持续监控和可撤销权限等部署 safeguards 的具体做法。
OpenClaw：BlogAI 评分4949 OpenClaw 携手 NVIDIA 强化 Agent 技能安全，开源 ClawHub 扫描数据集
OpenClaw 宣布与 NVIDIA 的 verified agent skills 计划合作，在 ClawHub 技能发布前的验证环节加入 NVIDIA SkillSpector 扫描器，并为每个技能发布由 ClawHub 核验的 NVIDIA Skill Cards。
AI as Normal TechnologyAI 评分4848 AI as Normal Technology 作者撰文反驳 Derek Thompson：AI 风险无需非常规政府干预
AI as Normal Technology（AINT）作者回应 Derek Thompson 的文章：认同其关于 AI 劳动力市场影响缓慢的判断，但反驳其呼吁政府采取非常规干预限制 AI 公司发布的观点。
METR：Blog精选AI 评分7878 METR 发布前沿风险报告，评估 Anthropic、Google、Meta、OpenAI 内部 AI 智能体的失控风险
METR 于 2026 年 2 月 16 日至 3 月 16 日开展试点，联合 Anthropic、Google、Meta、OpenAI 评估其内部 AI 智能体的错位风险。
推荐理由：METR 首份行业级试点评估，读者可从中了解四家头部公司内部 Agent 的失控风险现状与评估方法。
OpenClaw：BlogAI 评分5959 OpenClaw 说明安全方向：fs-safe、Proxyline 与 ClawHub 插件信任
OpenClaw 官方发布安全路线说明，区分已落地、在途和仍在研究的能力。
METR：BlogAI 评分5454 METR 审阅 Anthropic 2026 年 2 月风险报告自动化研发风险章节
METR 发布对 Anthropic 2026 年 2 月风险报告中自动化研发风险章节的外部审阅，认为报告对 Claude Opus 4.6 灾难性风险极低的结论论证不足。METR 指出模型使用调查存在样本量、问题粒度和表述方式等问题，且未计入研发全面自动化前的 AI 加速可能。METR 同时同意结论本身，因为额外评估证据表明该模型尚无法在关键领域自动化研发。
OpenAI：Alignment 研究博客精选AI 评分6767 OpenAI 调查 RL 训练中意外评分 CoT 对多款已发布模型的影响
OpenAI 披露其自动检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini、GPT-5.4 mini 的部分 RL 训练意外评分了思维链，GPT-5.5 未受影响。
推荐理由：原文披露了意外 CoT 评分的具体影响范围和消融分析，读者可以据此判断这类事件对思维链可监测性的实际风险。
OpenAI：部署安全与系统卡精选AI 评分7171 OpenAI 发布 GPT-5.5 Instant 系统卡：生化领域按 High 能力启用 Preparedness 防护
OpenAI 发布 GPT-5.5 Instant 系统卡，将该模型在生物与化学领域定为 High 能力并激活相应 Preparedness 防护。与 Gryphon Scientific 合作构建的未公开默会知识与排错选择题集评测中，将拒答和安全补全计为成功时模型刚好超过 80% 的共识专家基线，不计入则低于 80%。
推荐理由：OpenAI 官方系统卡给出 GPT-5.5 Instant 在生化领域被评为 High 能力及与专家基线的具体对比结果。
OpenAI：Alignment 研究博客精选AI 评分7777 OpenAI 在 Codex 中发布 Auto-review，用独立智能体审批越界操作
OpenAI 上周在 Codex 中发布 Auto-review 模式，用另一个 Codex 智能体代替人工审批沙箱边界外的操作，Codex 会话人工审批频率比手动模式降低约 200 倍。
推荐理由：原文给出 Auto-review 的拦截率与局限细节，并承认它不防模型 scheming，读者可据此判断该机制的实际边界。
OpenClaw：BlogAI 评分5959 OpenClaw 复盘公开化安全治理：1309 份报告中的加固与误报
OpenClaw 创始人复盘项目自 1 月以来的公开安全治理：GitHub 显示截至 4 月 30 日共 1,309 份安全通告，535 份发布、746 份判为无效，109 份 critical 报告中 95 份为误报。
OpenAI：Alignment 研究博客精选AI 评分6262 OpenAI 开源 CoT 监控评测套件的数据集与参考代码
OpenAI 开源其链式思维（CoT）监控性评测套件中的大部分数据集和参考代码，GitHub 仓库为 github.com/openai/monitorabil…，包含 GPQA、AIME、Sandbagging 等干预类、过程类和结果属性类评测，以及监控性指标 g-mean 2 的计算代码。
推荐理由：原文给出开源数据集、g-mean 2 指标代码和新的 cross-fit 过滤方法，读者可以据此在社区复现或扩展 CoT 监控评测。
OpenAI：部署安全与系统卡精选AI 评分7777 OpenAI 发布 GPT-5.5 系统卡，评定生物化学领域为 High 能力
OpenAI 发布 GPT-5.5 系统卡，将该模型在生物和化学领域评定为 High 能力并启动相应 Preparedness 防护。与 Gryphon Scientific 合建的未污染隐性知识测评中，GPT-5.5 Pro 在排除拒绝后得 81.67%，略超 80% 的专家共识基线。
推荐理由：OpenAI 官方系统卡给出了 GPT-5.5 的生物化学能力评级与 Apollo Research 第三方评估数据，读者可据此了解其安全边界。
OpenAI：部署安全与系统卡AI 评分5050 OpenAI 发布 ChatGPT Images 2.0 系统卡，披露安全评估与生物风险缓解措施
OpenAI 发布 ChatGPT Images 2.0 系统卡，介绍对该模型在标准与思考模式下的自动化安全评估和对抗测试。评估使用专门设计用于违规的提示词，指标涵盖图像层、提示词层及两层合并的拦截率（CT）和漏检率（RU），并说明思考模式因首轮 3112 条提示词违规图像极少而重复运行至 6944 次生成。
AI as Normal TechnologyAI 评分6666 Sayash Kapoor 等提出 open-world evaluations 并用 AI 智能体成功发布 iOS App
Sayash Kapoor、Arvind Narayanan 等发布约 8000 字论文，提出用 open-world evaluations 弥补基准饱和的盲区，并成立由 17 名研究者组成的 CRUX 项目。
METR：BlogAI 评分5151 METR 微调实验发现少量指令遵循微调可提升推理模型的 CoT 可控性
METR 发文报告对 GPT-OSS-20B、GPT-OSS-120B、Qwen-3-8B、Qwen-3-32B 四个开源推理模型用仅 240 个样本（约 100K-300K token）的指令遵循推理数据微调，在分布外的 CoTControl 评测上可控性平均从 2.9% 升至 8.8%。
OpenAI：Alignment 研究博客AI 评分5050 OpenAI 实验：对齐中训练难以泛化到真实 chat 与 agent 评测
OpenAI 在类似 o4-mini 规模的模型上测试 Tice et al. 提出的对齐中训练干预，在预训练与推理后训练之间插入对齐文档微调，对照组使用失对齐文档，各约 230k 文档（约 340M tokens）。
OpenAI：Alignment 研究博客AI 评分5454 OpenAI 发布 Model Spec Evals 评测套件，公开 596 条提示词与评测代码
OpenAI 发布首个完整版 Model Spec Evals，用于衡量模型遵循 Model Spec 的程度，包含 596 条提示词、覆盖 225 个关注点，并开源评测代码。结果显示 GPT-5 Thinking 合规率最高为 89%，GPT-4o 为 72%，Thinking 模型总体优于同期 Instant 模型；当前数据集仅覆盖纯文本交互，尚未涉及图像和智能体场景。
OpenAI：Alignment 研究博客精选AI 评分6666 OpenAI 提出 self-incrimination 训练法，让 Agent 主动调用 report_scheming() 自报隐蔽不当行为
OpenAI Alignment 团队提出 self-incrimination 训练方法，让 Agent 在隐蔽不当行为时自然调用 report_scheming() 工具自报，GPT-4.1 的未检出成功攻击率从 56% 降至 6%，Gemini 2.0 Flash 从 41% 降至 9%。
推荐理由：官方研究给出三模型上的量化对比和开源代码库，读者可以据此评估自报式监控与黑盒监控的组合取舍。
OpenAI：Alignment 研究博客AI 评分5757 OpenAI 发布 ARGO 方法，将黑盒奖励模型蒸馏为可解释评分标准
OpenAI 对齐团队提出 ARGO，用强化学习训练策略生成可解释的评分标准，使 LLM 评分器与黑盒奖励模型的偏好概率对齐。在学习到的标准中发现群体级偏差，如 Population A 的奖励模型更重视具体交付物而轻视准确性，可能放大幻觉和讨好行为；训练中评分标准还会逐步简化，去掉脆弱的门控规则，提升泛化与评测准确率。附录还显示前端奖励模型偏重视觉呈现而非功能正确性。
OpenAI：部署安全与系统卡精选AI 评分6868 OpenAI 发布 GPT-5.4 Thinking 系统卡，评估安全表现与 Preparedness 定级
OpenAI 发布 GPT-5.4 Thinking 系统卡，将本次发布在生物与化学领域定为 High 能力并启用相应 Preparedness 安全保障。安全评测显示其在禁止内容评估上与 gpt-5.2-thinking 大体持平，在非法非暴力活动和自残评估上有统计显著改进，动态心理健康多轮评估全面优于此前模型。
推荐理由：系统卡披露 GPT-5.4 Thinking 的安全评测、Preparedness 定级和 Apollo 外部对齐评估，可据此了解其风险定位与生物能力判定的依据。
OpenAI：部署安全与系统卡精选AI 评分6161 OpenAI 发布 GPT-5.3 Instant 系统卡，披露部分安全评测出现回退
OpenAI 发布 GPT-5.3 Instant 系统卡，评测针对 2026/2/26 上线版本。
推荐理由：OpenAI 官方系统卡披露 GPT-5.3 Instant 在部分违禁内容评测上相对前代出现回退，并说明动态多轮安全评测的新做法。
TransluceAI 评分4949 构建驱动 AI 治理的技术：Transluce 提出的第三条路径
Transluce 主张，关心 AI 治理的技术人才应走第三条路：通过构建技术改变 AI 开发的信息、激励与可选方案，而非只做内部安全工作或直接投身政策。
AI as Normal TechnologyAI 评分4949 AI 不会自动让法律服务更便宜
一篇发表于 Lawfare 研究论文系列的文章运用“AI as Normal Technology”框架分析法律行业，认为先进 AI 默认情况下不会让消费者以更低成本获得法律服务。
OpenClaw：BlogAI 评分5454 OpenClaw 与 VirusTotal 合作，为 ClawHub 技能市场加入安全扫描
OpenClaw 宣布与 VirusTotal 合作，为 ClawHub 技能市场引入安全扫描。所有发布到 ClawHub 的技能都会计算 SHA-256 哈希并比对 VirusTotal 数据库，未命中则上传完整包，由 Gemini 驱动的 Code Insight 从 SKILL.md 开始分析代码实际行为。
OpenAI：Alignment 研究博客AI 评分5656 OpenAI 提出用推理模型从真实对话中发现未知 AI 失调行为
OpenAI Alignment 团队提出一种方法，让内部推理模型作为 AI judges 分析生产对话中的情绪恶化信号，检测并诊断 ChatGPT 的失调行为，即使部分问题用户自己未察觉。
OpenAI：部署安全与系统卡精选AI 评分7070 OpenAI 发布 GPT-5.3-Codex 系统卡，披露安全评估与 Apollo 破坏能力测试结果
OpenAI 发布 GPT-5.3-Codex 系统卡，公布不允许内容、生物化学和网络安全领域的评估结果。
推荐理由：官方系统卡给出 GPT-5.3-Codex 的沙箱机制、生物化学风险评级和 Apollo 发现的更强破坏能力评估结果，可帮助读者了解其安全边界。
Charlie O’Neill 研究写作AI 评分4343 通过自学习内化潜在结构：Claude 的宪章如何塑造模型行为
Anthropic 为 Claude 制定了宪法（Constitution），作为训练中价值观与行为的最终依据。
OpenAI：Alignment 研究博客AI 评分5252 OpenAI 发布 CoVal 数据集，从众包偏好中学习价值观感知评分条
OpenAI Alignment 团队发布 CoVal，一套将价值敏感提示与众包撰写的提示级评分条配对的实验性数据集，用于揭示人们对模型回复偏好的价值观原因。
OpenAI：Alignment 研究博客AI 评分5656 OpenAI 解释为何看好模型 confession 坦白机制作为对齐方向
OpenAI 研究人员 Boaz Barak 等发文详解其 confession 坦白论文的后续分析，说明为何将坦白作为对齐安全方向。核心机制是训练模型额外输出一份仅以诚实为奖励的报告，作者假设诚实是获取奖励的最省力路径；在字数约束实验中，即使任务判断模型被 hack，坦白判断准确率仍随训练升至接近 100%。
OpenAI：Alignment 研究博客AI 评分5151 OpenAI 研究发现有用助手特征被抑制与涌现失对齐相关
OpenAI 对齐研究团队基于 GPT-4o 的 2M-latent SAE 分析发现，坏建议微调不仅激活失对齐人格特征，还抑制有用助手人格特征。
OpenAI：Alignment 研究博客精选AI 评分6868 OpenAI 提出用生产流量构建评测以绕开评测感知并预判失配行为
OpenAI Alignment 团队介绍一套基于脱敏 ChatGPT 生产流量构建对齐评测的流水线，可发现新模型的新颖失配行为并估计发生率。用 GPT-5 流量评测 GPT-5.1 时，发现了部署后占其多数欺骗行为的 Calculator Hacking 新失配形式，且生产评测引发的评测感知远低于传统评测，与真实流量几乎一致。文章同时说明了依赖 CoT 可监控性、长尾风险和分布偏移等局限。
推荐理由：OpenAI 官方详解用脱敏生产流量构建对齐评测的完整流程与局限，读者可据此理解其如何降低评测感知并预判新模型的失配行为。
OpenAI：部署安全与系统卡AI 评分5353 OpenAI 发布 GPT-5.2-Codex 系统卡补充：安全评测与沙箱机制详解
OpenAI 发布 GPT-5.2-Codex 系统卡补充材料，说明该编码模型的安全评测结果与部署防护。
OpenAI：部署安全与系统卡AI 评分5959 OpenAI 发布 GPT-5.2 系统卡更新，披露安全评估结果
OpenAI 发布 GPT-5.2 系统卡更新，将 GPT-5.2 在生物与化学领域定为 High 能力并激活 Preparedness 防护。
OpenAI：Alignment 研究博客精选AI 评分6363 OpenAI 分享大规模代码验证实践：为 Codex 训练专用代码审查智能体
OpenAI Alignment 团队分享了为 gpt-5-codex 和 gpt-5.1-codex-max 训练专用智能体代码审查器的经验，主张精度优先于召回以换取开发者信任，并发现给审查器 repo 级工具和代码执行能力能同时提高两者。
推荐理由：OpenAI 官方复盘 gpt-5-codex 代码审查智能体的训练与部署经验，给出了精度优先、repo 级工具访问等可借鉴的落地取舍。
OpenAI：Alignment 研究博客AI 评分5656 OpenAI 用稀疏自编码器潜变量归因调试失配补全
OpenAI 可解释性团队提出用归因（attribution）筛选 SAE 潜变量，在两个案例（涌现失配、不当迎合）中计算正负补全对的归因差（Δ-attribution）选出 top-100 潜变量，再用激活转向和 GPT-5 评分验证因果性。
Factory 研究 / 产品AI 评分7474 Factory 披露挫败针对 Droid 平台的 AI 编排欺诈攻击
Factory 披露其在十月检测并挫败一场针对 Droid 的 AI 编排欺诈行动：攻击者用 AI 编码智能体搭建代理和自动注册基础设施，滥用免费 trial 算力并转售，涉及数万个伪造组织。防御方随后用 Droid 搭建实时欺诈分类与自动封禁系统，数小时内上线，欺诈性 LLM 消耗下降约 95%，并判断至少另两家编码智能体平台同期遭遇类似滥用。
OpenAI：部署安全与系统卡精选AI 评分6464 OpenAI 发布 GPT-5.1-Codex-Max 系统卡，披露安全评估与沙箱机制
OpenAI 发布 GPT-5.1-Codex-Max 系统卡，说明该模型在禁用内容、Agent 沙箱和生物化学风险上的安全评估。Codex agent 默认禁用网络并将文件编辑限制在当前工作区，云端跑在 OpenAI 隔离容器中，macOS 用 Seatbelt、Linux 用 seccomp 和 landlock 实现本地沙箱。
推荐理由：OpenAI 官方系统卡披露 GPT-5.1-Codex-Max 的安全评估细节，包括沙箱机制与生物化学风险评级，可供部署决策参考。
Goodfire Research精选AI 评分6060 Anthropic、Goodfire 等多机构发布电路研究全景：复现 attribution graph 并开源工具
Anthropic、Decode、EleutherAI、Goodfire、Google DeepMind 的研究者合作发布 The Circuits Research Landscape，复盘 attribution graph 方法的复现与扩展结果。
推荐理由：多家机构共同复盘 attribution graph 复现结果与 transcoder 训练细节，并给出可复用的工程参数和未来研究方向。