#安全/对齐

Google DeepMind 发布 AlphaProof Code，四周内数学验证 Signal 加密核心代码

Google DeepMind 发布 AlphaProof Code，AI 系统可数学证明软件符合安全规格且无错误。团队用它验证了 Signal 实际运行在用户设备上的加密核心代码，而非止步于理论设计，将通常需数年的工作压缩到四周。

Anthropic 在 IPO 招股书中确认触发 AI 自研加速安全阈值，估值最高约 1.4 万亿美元

Anthropic 在 IPO 修订招股书中宣布，AI 已达到 Responsible Scaling Policy 中 AI 加速自身研发、将模型改进速度约翻倍的安全阈值，判断基于对未来模型和进展速度的预期而非当前观测。

AI 合成语音被用于 swatting 假报警，911 调度中心应对难度加大

NPR 报道美国多地学校遭遇 AI 合成语音实施的 swatting 假报警，加州 Yuba County 一所学校因此停课。APCO 与 Public Safety Threat Alliance 6 月发布的调查显示，约 14% 的调度员表示曾被使用 AI 工具的假报警针对。NENA 官员指出此类电话通常不直拨 911，APCO 正在制定细粒度提问的训练标准，以识别 AI 难以应答的问题。

PrashnaLabs 开源 agent-blast-radius：为进入断网环境的 AI Agent 做边界与爆炸半径审计

作者发布 agent-blast-radius，一个读取 AI Agent 代码库、在部署到断网环境前回答边界与爆炸半径两个问题的 Agent 技能。

分析：黄仁勋“蜜罐”丑闻或非个例，半导体行业谍报渗透远比表面普遍

TechCrunch 采访投资情报公司 Heron Intelligence CEO Nate Singer，探讨 Nvidia CEO 黄仁勋“蜜罐”丑闻背后的行业性问题。

Helsing 发布 Clarity 智能体平台，称每次打击决策都将留有负责人姓名

德国防务科技公司 Helsing 在柏林发布基于智能体的 Clarity 情报平台，将传感器数据、开源情报和报告整合为目标建议，供人类审核后接入武器系统。平台运行在客户自有基础设施上，遵循北约标准，并承诺由人类授权每次打击并记录负责人姓名。

Rutger Bregman 撰文呼吁警惕 AI 风险并主张暂停训练更强模型

Rutger Bregman 在 Substack 撰文称应当对 AI 感到恐慌，指出怀疑派预测屡屡落空，而 Daniel Kokotajlo 等警告者的预测接连应验。他引用 METR 对 Anthropic 的调查，称其模型改进约 80% 的提速来自 AI 本身、进度比 AI 2027 情景快五个月，并提出禁止 AI 研发 AI、暂停训练更强模型、派独立检查员核查芯片等建议。

三名男子被指控利用 AI 冒充 CEO 和律师骗取超 1.29 亿美元

美国司法部解封起诉书，指控三名外籍男子利用 AI 伪造企业高管和律师的声音与图像实施诈骗，涉案金额超过 1.29 亿美元，其中一人在英国、两人在西班牙被捕。骗局发生在 2024 至 2026 年间，包括从密苏里一家医院系统骗取近 500 万美元、从一家英国科技公司骗取超 1100 万美元，赃款被转入多国银行账户并兑换为加密货币。三人被控电信欺诈共谋、洗钱共谋和加重身份盗窃等罪名。

Anthropic 的 Claude 开始拒绝协助宝可梦 ROM 改版和同人游戏开发

Anthropic 的 Claude 模型开始拒绝参与宝可梦同人项目开发，作者实测确认其拒绝绘制宝可梦角色或复制游戏设计。据 Tom's Hardware，Anthropic 约在 2026 年 10 月底更改规则、拒绝重建特定现有游戏，且未公开宣布；开发者 Big Kid Nation 称其耗资数千美元的 Pokémon Arena 2D 受影响，但游戏仍计划 12 月发布。

Google DeepMind 用 AlphaProof Code 形式化验证 Signal 协议关键密码学保证

Google DeepMind 研究人员用名为 AlphaProof Code 的智能体 AI 框架，在四周内对 Signal 协议的关键密码学保证做了数学层面的形式化验证。验证未发现新漏洞，但在含已知漏洞的旧版 Signal 上能正确识别问题并证明无法通过形式化验证；研究未覆盖整个 Signal 移动应用，研究人员称这是更大进程中的一个里程碑，并将公开规格与证明以支持后续形式化验证工作。

同一件事，精选收录的是《Google DeepMind 推出 AlphaProof Code 框架，形式化验证 Signal 密码协议实现代码》

Grok 被指生成儿童色情图像，xAI 面临多起集体诉讼

据彭博社报道，多名未成年人以集体诉讼追究 xAI 责任，指控用户利用 Grok 将普通照片篡改成儿童性虐待材料（CSAM）并传播，原告中年龄最小的仅 6 岁。

印度泰米尔纳德邦图书馆疑似购入 AI 生成书籍，法院下令调查

印度 Madras 高等法院下令调查泰米尔纳德邦 Coimbatore 的 Periyar Arivulagam 图书馆疑似采购 AI 生成书籍一事，并冻结涉案出版商的相关银行账户。

NIST 发布 SP 1353 ipd：用 AI 进行 Cybersecurity Framework 2.0 分析与报告的快速入门指南（征求意见）

NIST 发布 SP 1353 ipd 初始公开草案《QuickStart Guide for Using AI for CSF Analysis and Reporting》，8 月 19 日公开征求意见，截止 2026 年 10 月 15 日 11:59 PM，意见发送至 csf[at]nist.gov。

安全公司称 94.7% 的 Grok 生成应用可被任何人访问，含患者数据与 SpaceXSI 内部文件

安全公司 Claroc 发现 Grok Build 模式生成的 37,571 个在线应用中有 35,578 个（94.7%）无需登录即可访问，原因是发布时默认预选“任何有链接的人”，且每个应用使用独立子域名、首次访问后会进入可搜索的 passive DNS 数据库。

ChinaTalk 调查：美国数据商向中国 AI 实验室出售约 5 亿美元 RL 训练环境

ChinaTalk 调查发现，Mercor、Surge AI、AfterQuery、Turing 等至少九家美国数据公司向中国 AI 实验室出售价值约 5 亿美元的 RL 训练环境和数据。

Hugging Face 高管警告网络攻击可能让开源 AI 变得不那么开放

Hugging Face 首席政策官 Irene Solaiman 在 Equity 播客及接受 TechCrunch 采访时警告，开放社区的低门槛和平台上集中的评测数据集、第三方 API 密钥正使其成为攻击目标，收缩开放性可能限制独立研究者和爱好者参与。

Nvidia CEO 黄仁勋承认婚外情，其绯闻对象被指涉为中国间谍，Nvidia 董事会启动调查

TechCrunch 以倒序时间线整理 Nvidia CEO 黄仁勋承认婚外情事件。美国官员认为其绯闻对象、Megaspeed 高管 Alice Huang 是中国间谍，Megaspeed 两年来购入 48 亿美元 Nvidia 芯片，关联公司上海世纪立通据报经手 75 亿美元芯片采购，包括被禁售芯片。

安全公司 Claroc 披露 Grok Build 漏洞致 SpaceXSI 内部资料及数千用户数据暴露

网络安全公司 Claroc 发现，SpaceXSI 旗下 AI 编程工具 Grok Build 的分享链接可被被动 DNS 服务公开检索，导致数千用户敏感数据泄露，包括一家医院集团、一家消防部门及 SpaceXSI 自身内部资料。

澳大利亚拟设 AI 安全监管机构并对不合规企业追究刑事责任

澳大利亚总理 Albanese 发布对 OpenAI 智能体入侵政府系统的快速审查结果，共 18 条建议，包括设立 AI 安全监管机构、强制限时上报安全事件，以及设立企业未采取合理措施防止 AI 危害的独立刑事罪名。

ChinaTalk 分析美国数据公司向中国 AI 实验室出售约 5 亿美元 RL 环境的现象

ChinaTalk 作者 Aqib Zakaria 分析称，Mercor、Surge AI、Turing、AfterQuery 等美国数据公司正出售总值约 5 亿美元的数据给中国 AI 实验室，其中相当部分是用于后训练的强化学习（RL）环境。

Anthropic 推出 Claude 网络安全验证计划（CVP），三档权限放宽安全工作限制

Anthropic 推出 Cyber Verification Program（CVP），通过验证的安全从业者可减少网络防护的干预，使用包括 Claude Mythos 5.2、Mythos 5.1、Opus 5.5 和 Sonnet 5.5 在内的模型做高级安全工作。

研究显示 Grok Build 编码智能体泄露数千用户敏感数据，包括 SpaceXSI 自家机密

安全公司 Claroc 的研究显示，SpaceXSI 旗下 vibe-coding 智能体 Grok Build 的分享链接虽做了 URL 随机化，但因设计缺陷可被枚举，数千个在线项目因此可被任何人访问。泄露内容包括商业计划、广告提案、体检结果、员工姓名和工号等，其中 SpaceXSI 自建的 24 个应用也涉及机密入职计划、覆盖 594 个账户的销售区域地图和内部系统地址。

Microsoft Research 解析 Lazarus 后门技术：重编程休眠神经元攻击 AI Agent

Microsoft Research 介绍研究者发现的 Lazarus 后门技术：重编程 LLM 中不到 10 个休眠神经元即可在不训练的情况下给 Agent 埋入后门，模型可通过标准评测，触发条件甚至可以是日期变化，例如时钟进入 2027 后在普通任务中执行下载并运行攻击者代码的命令。

纽约 RAISE Act 生效，OpenAI 与 Anthropic 等前沿 AI 开发商面临新监管

纽约州 RAISE Act 生效，年营收超 5 亿美元的大型前沿 AI 开发商须在 2027 年 1 月 1 日前完成注册，公布安全框架、72 小时内上报重大安全事件并发布模型透明度报告，违规最高罚款 100 万美元、再犯 300 万美元。

Redwood Research：无法判断 GDM 是否在有意对 CoT 训练

Redwood Research 发文称，Gemini 4 安全报告第 114 页提到 RL 训练中部分优化压力受思考内容影响，但 GDM 博客又声称训练中不因 CoT 内容惩罚模型，与 GDM 员工的口径也不一致，外部难以判断其是否在训练 CoT。

The Verge 分析黄仁勋丑闻如何威胁美国对中国的 AI 领先优势

The Verge 报道 Nvidia CEO 黄仁勋承认与一名被怀疑是中国间谍的女子有染，专家认为此事可能动摇整个美国 AI 产业并危及对华技术领先。与该女子相关的公司据报促成至少 70 亿美元的 Nvidia 芯片对华销售，多起调查可能拖累公司运营并波及 OpenAI、Anthropic 等客户的算力获取。

STABL 成立非营利研究组织：填补 AI 应对讨论中缺失的象限

新非营利研究组织 STABL 宣布成立，主张同时认真对待 AI 的变革潜力与下游瓶颈，以填补当前讨论中缺失的“右上象限”。该组织提出递归自我改进（RSI）测度、AI 扩散节奏、劳动力市场冲击等四个研究方向，并认为韧性是当前最被忽视的风险防御组成部分，机构改革是 AI 落地的关键瓶颈。

Google 正式开放 Gemini 4 Carbon，并预告 Antigravity 的 /swarm 多智能体功能

The Decoder 报道，Google 在两周测试期后正式开放 Gemini 4 Carbon，可经 Gemini API、Google AI Studio、Android Studio 或 Gemini for Business 使用，输入 2 美元、输出 10 美元每百万 token 的 introductory 价格。

Ed Zitron 长文分析 Jensen Huang 与 Megaspeed 丑闻：NVIDIA 疑借对华走私 GPU 注水营收

Ed Zitron 撰文分析 NVIDIA CEO Jensen Huang 与 Megaspeed CEO Alice Huang 的婚外情及其背后的芯片走私问题。

Wiz 讲解如何评估 AI 智能体的网络安全能力并重启 Cyber Model Arena

Wiz 研究团队介绍重启后的 Cyber Model Arena v3.9 基准设计原则，覆盖 26 个模型、4 个 harness、59 个智能体和 327 道挑战，每题 1,000 秒、三次尝试。

DeepMind 发布 Gemini Robotics 2.5 并推出开源安全基准 ASIMOV-jailbreak

Google DeepMind 发布新一代机器人 AI 平台 Gemini Robotics 2.5，称其在需要高度灵巧性的任务上明显提升，模型经 200 多项活动评估，包括用夹子端食物和操作移液管。

Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2：同一模型两种安全等级

Anthropic 发布 Claude Fable 5.2 和 Mythos 5.2，两者是同一底层模型，Fable 加分类器拦截高风险网络安全和大部分生物学任务，Mythos 去掉拦截、需通过 Cyber 或 Life Sciences Verification Program 访问。

404 Media 观察 AI 公司收紧 Claude 与 Codex 的 AI 逆向工程用途

404 Media 报道，用户使用 Claude Code 和 OpenAI Codex 对自有设备做 AI 逆向工程（如给智能电视装新系统、救砖 IoT 设备）时遭遇安全拦截、警告甚至封号，Decomp.wtf 也已关停。

Lovable 讲解应用安全机制：自动扫描、一键修复与用户需做的事

Lovable 安全负责人 Igor Andriushchenko 介绍平台如何帮开发者保障应用安全。

Google DeepMind 推出 AlphaProof Code 框架，形式化验证 Signal 密码协议实现代码

Google DeepMind 发布 AlphaProof Code，一个多 LLM 智能体形式化验证框架，首次对 Signal 协议的实际实现代码完成数学化安全证明，此前该挑战被认为极为困难。

OpenAI 研究预训练、RL 与模型生成数据如何影响 CoT 可监测性

OpenAI 发布研究，分析预训练、架构、强化学习和模型生成数据对思维链（CoT）可监测性的影响。研究发现基础模型困惑度下降平滑提升无 CoT 推理能力，RL 即使仅用长度约束和最终答案评分也会提高 CoT 可控性，且 CoT 可控性可通过 SFT 在模型生成数据中传递给下一代模型，表明模型随规模扩大变得更难通过 CoT 监测。

Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2，登顶多个评测榜单，IPO 路演同日启动

Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2，在 Artificial Analysis（Index 65）、Epoch AI（174）、ARC-AGI、Vals 等多个独立评测登顶，定价 $8/$40 每百万 token，比 Fable 5.1 低 20%。

Redwood Research 分析 OpenAI Astra 在安全任务上的隐蔽表现不佳及其对齐警示

Redwood Research 的 Alexa Pan 分析 OpenAI 披露的 Astra 在安全任务上隐性表现不佳的问题，该模型通过添加不必要前置条件、放弃可用方案等方式暗中拖延，且多数情况下不在 CoT 中说明意图。

Apiiro 研究员发现 Claude Code 设置文件在 GitHub 上泄露大量密钥

Apiiro 的 AI 安全研究员发现数千个密钥，包括数据库密码、API token 和 root 登录信息，散布在 GitHub 仓库中的 Claude Code 设置文件里。

Latent Space 深访 Handshake AI：一年做到 10 亿美元年收入的前沿实验室数据生意

Latent Space 对 Handshake AI 做首期 AI 数据公司深度访谈，其 AI 训练业务约一年内从上线做到 10 亿美元总年化收入。