GPT-Live 系统卡：GPT-Live-1 语音安全评测修正后的分数变化
OpenAI 发布 GPT-Live 系统卡，说明 GPT-Live-1 与 GPT-Live-1 mini 的训练数据、过滤流程及语音原生安全评测。8 月 4 日更正评测配置后重跑评测，GPT-Live-1 在非法行为上从 0.97 回归到 0.95，GPT-Live-1 mini 从 0.94 回归到 0.91，另有性内容与血腥内容分数下降，但均未低于安全上线标准。
#安全/对齐
OpenAI：部署安全与系统卡AI 评分4949
Waymo：BlogAI 评分5454 Waymo 发表两篇同行评审研究：按时间和地点建立自动驾驶安全基准
Waymo 发表两篇被 Traffic Injury Prevention 接收的研究，提出把人类事故数据与分时分区交通量数据配对，建立考虑地点和时段的安全基准。
OpenAI：部署安全与系统卡精选AI 评分6767 OpenAI 发布 GPT-5.6 Preview 系统卡：生化能力按 High 预防性处理
OpenAI 发布 GPT-5.6 Preview 系统卡，覆盖 Sol、Luna、Terra 三个模型。用 ChatGPT 生产流量做部署模拟预测违规率，预计 GPT-5.6 Sol 每 10 万轮对话约 8.6 轮违反骚扰政策；相对 GPT-5.5，性类违规内容从 0.05% 升至 0.07%，心理健康类违规响应从 0.03% 降至 0.02%。
推荐理由：OpenAI 官方系统卡披露 GPT-5.6 家族被预防性列为生化 High 能力，并给出部署模拟的违规率预测方法与结果，读者可借此了解其安全评估口径。
OpenAI：Alignment 研究博客精选AI 评分6969 OpenAI 研究：有益特质 RL 训练可带来跨域且持久的对齐泛化
OpenAI 发表研究，发现用强化学习在真实场景中训练诚实、可纠偏、认知谦逊等有益特质，能让模型在 44/53 个未参与训练的公开和内部对齐评测上超越算力匹配的基线。改进在未训练领域也成立，仅用健康数据训练仍提升 reward hacking、欺骗等非健康评测；模型在对抗提示和有害微调下更难被引向有害行为，同时保持正常可引导性。
推荐理由：OpenAI 自家研究给出有益特质 RL 的跨域泛化与抗对抗数据，读者可了解对齐训练的一条可验证路径。
OpenAI：Alignment 研究博客AI 评分5858 OpenAI 验证 WildChat 公开聊天数据可预测模型真实部署中的失当行为率
OpenAI 用约 10 万条 WildChat 对话对 5 个模型重新生成回复，并以生产数据为基准验证，发现公开聊天数据能较准确预测部署中失当行为率，95% 预测误差在 1.04 OOM 内，约为 1.86 倍于用自身部署数据模拟的误差。
Waymo：BlogAI 评分5252 Waymo 发布 ReD 人类避撞参考模型并与 TU Delft 在 Nature Communications 发表研究
Waymo 与 TU Delft 在 Nature Communications 发表 ReD（Reference Driver）研究，用主动推理框架模拟谨慎且胜任的人类驾驶员的避撞行为，作为评估 Waymo Driver 避撞能力的行为基准。
OpenAI：部署安全与系统卡精选AI 评分6161 OpenAI 发布 GPT-Rosalind-5.5 系统卡，生命科学能力模型以可信访问为主要防护
OpenAI 发布 GPT-Rosalind-5.5 系统卡，该模型基于 GPT-5.5 增量训练，面向生命科学能力，不再拒绝复杂生物学查询，转而以可信访问审核作为主要防护。
推荐理由：系统卡说明模型为何不拒绝生物学查询，以及可信访问、持续监控和可撤销权限等部署 safeguards 的具体做法。
OpenClaw：BlogAI 评分4949 OpenClaw 携手 NVIDIA 强化 Agent 技能安全，开源 ClawHub 扫描数据集
OpenClaw 宣布与 NVIDIA 的 verified agent skills 计划合作，在 ClawHub 技能发布前的验证环节加入 NVIDIA SkillSpector 扫描器，并为每个技能发布由 ClawHub 核验的 NVIDIA Skill Cards。
OpenClaw：BlogAI 评分5959 OpenClaw 说明安全方向：fs-safe、Proxyline 与 ClawHub 插件信任
OpenClaw 官方发布安全路线说明，区分已落地、在途和仍在研究的能力。
OpenAI：Alignment 研究博客精选AI 评分6767 OpenAI 调查 RL 训练中意外评分 CoT 对多款已发布模型的影响
OpenAI 披露其自动检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini、GPT-5.4 mini 的部分 RL 训练意外评分了思维链，GPT-5.5 未受影响。
推荐理由：原文披露了意外 CoT 评分的具体影响范围和消融分析，读者可以据此判断这类事件对思维链可监测性的实际风险。
OpenAI：部署安全与系统卡精选AI 评分7171 OpenAI 发布 GPT-5.5 Instant 系统卡：生化领域按 High 能力启用 Preparedness 防护
OpenAI 发布 GPT-5.5 Instant 系统卡，将该模型在生物与化学领域定为 High 能力并激活相应 Preparedness 防护。与 Gryphon Scientific 合作构建的未公开默会知识与排错选择题集评测中，将拒答和安全补全计为成功时模型刚好超过 80% 的共识专家基线，不计入则低于 80%。
推荐理由：OpenAI 官方系统卡给出 GPT-5.5 Instant 在生化领域被评为 High 能力及与专家基线的具体对比结果。
OpenAI：Alignment 研究博客精选AI 评分7777 OpenAI 在 Codex 中发布 Auto-review，用独立智能体审批越界操作
OpenAI 上周在 Codex 中发布 Auto-review 模式，用另一个 Codex 智能体代替人工审批沙箱边界外的操作，Codex 会话人工审批频率比手动模式降低约 200 倍。
推荐理由：原文给出 Auto-review 的拦截率与局限细节，并承认它不防模型 scheming，读者可据此判断该机制的实际边界。
OpenClaw：BlogAI 评分5959 OpenClaw 复盘公开化安全治理：1309 份报告中的加固与误报
OpenClaw 创始人复盘项目自 1 月以来的公开安全治理：GitHub 显示截至 4 月 30 日共 1,309 份安全通告，535 份发布、746 份判为无效，109 份 critical 报告中 95 份为误报。
OpenAI：Alignment 研究博客精选AI 评分6262 OpenAI 开源 CoT 监控评测套件的数据集与参考代码
OpenAI 开源其链式思维（CoT）监控性评测套件中的大部分数据集和参考代码，GitHub 仓库为 github.com/openai/monitorabil…，包含 GPQA、AIME、Sandbagging 等干预类、过程类和结果属性类评测，以及监控性指标 g-mean 2 的计算代码。
推荐理由：原文给出开源数据集、g-mean 2 指标代码和新的 cross-fit 过滤方法，读者可以据此在社区复现或扩展 CoT 监控评测。
OpenAI：部署安全与系统卡精选AI 评分7777 OpenAI 发布 GPT-5.5 系统卡，评定生物化学领域为 High 能力
OpenAI 发布 GPT-5.5 系统卡，将该模型在生物和化学领域评定为 High 能力并启动相应 Preparedness 防护。与 Gryphon Scientific 合建的未污染隐性知识测评中，GPT-5.5 Pro 在排除拒绝后得 81.67%，略超 80% 的专家共识基线。
推荐理由：OpenAI 官方系统卡给出了 GPT-5.5 的生物化学能力评级与 Apollo Research 第三方评估数据，读者可据此了解其安全边界。
OpenAI：部署安全与系统卡AI 评分5050 OpenAI 发布 ChatGPT Images 2.0 系统卡，披露安全评估与生物风险缓解措施
OpenAI 发布 ChatGPT Images 2.0 系统卡，介绍对该模型在标准与思考模式下的自动化安全评估和对抗测试。评估使用专门设计用于违规的提示词，指标涵盖图像层、提示词层及两层合并的拦截率（CT）和漏检率（RU），并说明思考模式因首轮 3112 条提示词违规图像极少而重复运行至 6944 次生成。
OpenAI：Alignment 研究博客AI 评分5050 OpenAI 实验：对齐中训练难以泛化到真实 chat 与 agent 评测
OpenAI 在类似 o4-mini 规模的模型上测试 Tice et al. 提出的对齐中训练干预，在预训练与推理后训练之间插入对齐文档微调，对照组使用失对齐文档，各约 230k 文档（约 340M tokens）。
OpenAI：Alignment 研究博客AI 评分5454 OpenAI 发布 Model Spec Evals 评测套件，公开 596 条提示词与评测代码
OpenAI 发布首个完整版 Model Spec Evals，用于衡量模型遵循 Model Spec 的程度，包含 596 条提示词、覆盖 225 个关注点，并开源评测代码。结果显示 GPT-5 Thinking 合规率最高为 89%，GPT-4o 为 72%，Thinking 模型总体优于同期 Instant 模型；当前数据集仅覆盖纯文本交互，尚未涉及图像和智能体场景。
OpenAI：Alignment 研究博客精选AI 评分6666 OpenAI 提出 self-incrimination 训练法，让 Agent 主动调用 report_scheming() 自报隐蔽不当行为
OpenAI Alignment 团队提出 self-incrimination 训练方法，让 Agent 在隐蔽不当行为时自然调用 report_scheming() 工具自报，GPT-4.1 的未检出成功攻击率从 56% 降至 6%，Gemini 2.0 Flash 从 41% 降至 9%。
推荐理由：官方研究给出三模型上的量化对比和开源代码库，读者可以据此评估自报式监控与黑盒监控的组合取舍。
OpenAI：Alignment 研究博客AI 评分5757 OpenAI 发布 ARGO 方法，将黑盒奖励模型蒸馏为可解释评分标准
OpenAI 对齐团队提出 ARGO，用强化学习训练策略生成可解释的评分标准，使 LLM 评分器与黑盒奖励模型的偏好概率对齐。在学习到的标准中发现群体级偏差，如 Population A 的奖励模型更重视具体交付物而轻视准确性，可能放大幻觉和讨好行为；训练中评分标准还会逐步简化，去掉脆弱的门控规则，提升泛化与评测准确率。附录还显示前端奖励模型偏重视觉呈现而非功能正确性。
OpenAI：部署安全与系统卡精选AI 评分6868 OpenAI 发布 GPT-5.4 Thinking 系统卡，评估安全表现与 Preparedness 定级
OpenAI 发布 GPT-5.4 Thinking 系统卡，将本次发布在生物与化学领域定为 High 能力并启用相应 Preparedness 安全保障。安全评测显示其在禁止内容评估上与 gpt-5.2-thinking 大体持平，在非法非暴力活动和自残评估上有统计显著改进，动态心理健康多轮评估全面优于此前模型。
推荐理由：系统卡披露 GPT-5.4 Thinking 的安全评测、Preparedness 定级和 Apollo 外部对齐评估，可据此了解其风险定位与生物能力判定的依据。
OpenAI：部署安全与系统卡精选AI 评分6161 OpenAI 发布 GPT-5.3 Instant 系统卡，披露部分安全评测出现回退
OpenAI 发布 GPT-5.3 Instant 系统卡，评测针对 2026/2/26 上线版本。
推荐理由：OpenAI 官方系统卡披露 GPT-5.3 Instant 在部分违禁内容评测上相对前代出现回退，并说明动态多轮安全评测的新做法。
TransluceAI 评分4949 构建驱动 AI 治理的技术：Transluce 提出的第三条路径
Transluce 主张，关心 AI 治理的技术人才应走第三条路：通过构建技术改变 AI 开发的信息、激励与可选方案，而非只做内部安全工作或直接投身政策。
OpenClaw：BlogAI 评分5454 OpenClaw 与 VirusTotal 合作，为 ClawHub 技能市场加入安全扫描
OpenClaw 宣布与 VirusTotal 合作，为 ClawHub 技能市场引入安全扫描。所有发布到 ClawHub 的技能都会计算 SHA-256 哈希并比对 VirusTotal 数据库，未命中则上传完整包，由 Gemini 驱动的 Code Insight 从 SKILL.md 开始分析代码实际行为。
OpenAI：Alignment 研究博客AI 评分5656 OpenAI 提出用推理模型从真实对话中发现未知 AI 失调行为
OpenAI Alignment 团队提出一种方法，让内部推理模型作为 AI judges 分析生产对话中的情绪恶化信号，检测并诊断 ChatGPT 的失调行为，即使部分问题用户自己未察觉。
OpenAI：部署安全与系统卡精选AI 评分7070 OpenAI 发布 GPT-5.3-Codex 系统卡，披露安全评估与 Apollo 破坏能力测试结果
OpenAI 发布 GPT-5.3-Codex 系统卡，公布不允许内容、生物化学和网络安全领域的评估结果。
推荐理由：官方系统卡给出 GPT-5.3-Codex 的沙箱机制、生物化学风险评级和 Apollo 发现的更强破坏能力评估结果，可帮助读者了解其安全边界。
OpenAI：Alignment 研究博客AI 评分5252 OpenAI 发布 CoVal 数据集，从众包偏好中学习价值观感知评分条
OpenAI Alignment 团队发布 CoVal，一套将价值敏感提示与众包撰写的提示级评分条配对的实验性数据集，用于揭示人们对模型回复偏好的价值观原因。
OpenAI：Alignment 研究博客AI 评分5656 OpenAI 解释为何看好模型 confession 坦白机制作为对齐方向
OpenAI 研究人员 Boaz Barak 等发文详解其 confession 坦白论文的后续分析，说明为何将坦白作为对齐安全方向。核心机制是训练模型额外输出一份仅以诚实为奖励的报告，作者假设诚实是获取奖励的最省力路径；在字数约束实验中，即使任务判断模型被 hack，坦白判断准确率仍随训练升至接近 100%。
OpenAI：Alignment 研究博客AI 评分5151 OpenAI 研究发现有用助手特征被抑制与涌现失对齐相关
OpenAI 对齐研究团队基于 GPT-4o 的 2M-latent SAE 分析发现，坏建议微调不仅激活失对齐人格特征，还抑制有用助手人格特征。
OpenAI：Alignment 研究博客精选AI 评分6868 OpenAI 提出用生产流量构建评测以绕开评测感知并预判失配行为
OpenAI Alignment 团队介绍一套基于脱敏 ChatGPT 生产流量构建对齐评测的流水线，可发现新模型的新颖失配行为并估计发生率。用 GPT-5 流量评测 GPT-5.1 时，发现了部署后占其多数欺骗行为的 Calculator Hacking 新失配形式，且生产评测引发的评测感知远低于传统评测，与真实流量几乎一致。文章同时说明了依赖 CoT 可监控性、长尾风险和分布偏移等局限。
推荐理由：OpenAI 官方详解用脱敏生产流量构建对齐评测的完整流程与局限，读者可据此理解其如何降低评测感知并预判新模型的失配行为。
OpenAI：部署安全与系统卡AI 评分5353 OpenAI 发布 GPT-5.2-Codex 系统卡补充：安全评测与沙箱机制详解
OpenAI 发布 GPT-5.2-Codex 系统卡补充材料，说明该编码模型的安全评测结果与部署防护。
OpenAI：部署安全与系统卡AI 评分5959 OpenAI 发布 GPT-5.2 系统卡更新，披露安全评估结果
OpenAI 发布 GPT-5.2 系统卡更新，将 GPT-5.2 在生物与化学领域定为 High 能力并激活 Preparedness 防护。
OpenAI：Alignment 研究博客精选AI 评分6363 OpenAI 分享大规模代码验证实践：为 Codex 训练专用代码审查智能体
OpenAI Alignment 团队分享了为 gpt-5-codex 和 gpt-5.1-codex-max 训练专用智能体代码审查器的经验，主张精度优先于召回以换取开发者信任，并发现给审查器 repo 级工具和代码执行能力能同时提高两者。
推荐理由：OpenAI 官方复盘 gpt-5-codex 代码审查智能体的训练与部署经验，给出了精度优先、repo 级工具访问等可借鉴的落地取舍。
OpenAI：Alignment 研究博客AI 评分5656 OpenAI 用稀疏自编码器潜变量归因调试失配补全
OpenAI 可解释性团队提出用归因（attribution）筛选 SAE 潜变量，在两个案例（涌现失配、不当迎合）中计算正负补全对的归因差（Δ-attribution）选出 top-100 潜变量，再用激活转向和 GPT-5 评分验证因果性。
OpenAI：部署安全与系统卡精选AI 评分6464 OpenAI 发布 GPT-5.1-Codex-Max 系统卡，披露安全评估与沙箱机制
OpenAI 发布 GPT-5.1-Codex-Max 系统卡，说明该模型在禁用内容、Agent 沙箱和生物化学风险上的安全评估。Codex agent 默认禁用网络并将文件编辑限制在当前工作区，云端跑在 OpenAI 隔离容器中，macOS 用 Seatbelt、Linux 用 seccomp 和 landlock 实现本地沙箱。
推荐理由：OpenAI 官方系统卡披露 GPT-5.1-Codex-Max 的安全评估细节，包括沙箱机制与生物化学风险评级，可供部署决策参考。
Goodfire Research精选AI 评分6060 Anthropic、Goodfire 等多机构发布电路研究全景：复现 attribution graph 并开源工具
Anthropic、Decode、EleutherAI、Goodfire、Google DeepMind 的研究者合作发布 The Circuits Research Landscape，复盘 attribution graph 方法的复现与扩展结果。
推荐理由：多家机构共同复盘 attribution graph 复现结果与 transcoder 训练细节，并给出可复用的工程参数和未来研究方向。