p(doom) 概率估算仍不足以支撑 AI 政策决策
AI as Normal Technology 重新发布两年前的长文,指出当下 AI 灭绝风险(p(doom))概率估算依旧不严谨,正在以前所未有的程度影响公共讨论和政策。文章认为归纳、演绎与主观概率三种估算路径都缺乏可靠参考类别,概率本身不能赋予政策正当性。作者提醒政策制定者这类数字并非来自经过验证的模型,并将另文倡导“大帐篷”式安全运动。
AI as Normal Technology 重新发布两年前的长文,指出当下 AI 灭绝风险(p(doom))概率估算依旧不严谨,正在以前所未有的程度影响公共讨论和政策。文章认为归纳、演绎与主观概率三种估算路径都缺乏可靠参考类别,概率本身不能赋予政策正当性。作者提醒政策制定者这类数字并非来自经过验证的模型,并将另文倡导“大帐篷”式安全运动。
中美领导人在纽约峰会后同意开启正式AI对话,并设立双边贸易委员会,但对话实质内容仍待定义。阿里云在云栖大会发布自研AI芯片,并承诺到2032年建成20GW AI数据中心容量;DeepSeek接近完成75亿美元融资,年化收入达10亿美元,但监管机构据报道对其和月之暗面启动数据安全调查。
Waymo 发布伦敦愿景,计划利用自动乘客服务(APS)许可方案在伦敦提供完全无人驾驶出行服务,该方案需英国交通部(DfT)批准并获 Transport for London(TfL)同意。
RAND 发布长篇报告,认为美国应对「通往超智能的不确定路径」的最佳策略是「自由行动」(Freedom of Action)战略,即现阶段投入资金保留所有选项。报告分析了七大原型战略(分属共存、阻止、加速三族)和五大关键不确定性,包括危险临近程度、共存可行性、决定性战略优势是否可达成等。
SemiAnalysis 分析认为美国数据中心建设被禁令拖慢的说法不成立,其模型预测 2027 年美国将交付 +38GW IT 容量,超过 2026 年的两倍。
本周中国 AI 周报追踪 297 条新闻:DeepSeek 发布 552B 参数 MoE 模型 V4.1-Flash(每 token 仅激活 8–16B),在 Terminal-Bench 2.1 上编码与智能体任务胜过 GPT-5.6 Sol 和 Kimi K3,并以约 740 亿美元估值筹备科创板上市。
Nathan Lambert 在 Interconnects 发布一份开源模型研究阅读清单,汇总近年关于开放模型的代表性文章,涵盖开放策略、经济价值、安全风险、中美竞争等主题。
Apple 于周五起诉 OpenAI,指控其窃取商业秘密,并称 OpenAI 展开了为期数月的行动以加速自家硬件业务。原文指出 Apple 很少起诉,以往对象多是已出货的竞争对手如 Qualcomm 和 Samsung,而这次针对的是尚无产品上市的对手。
AI as Normal Technology(AINT)作者回应 Derek Thompson 的文章:认同其关于 AI 劳动力市场影响缓慢的判断,但反驳其呼吁政府采取非常规干预限制 AI 公司发布的观点。
Transluce 主张,关心 AI 治理的技术人才应走第三条路:通过构建技术改变 AI 开发的信息、激励与可选方案,而非只做内部安全工作或直接投身政策。