p(doom) 概率估算仍不足以支撑 AI 政策决策

AI as Normal Technology 重新发布两年前的长文，指出当下 AI 灭绝风险（p(doom)）概率估算依旧不严谨，正在以前所未有的程度影响公共讨论和政策。文章认为归纳、演绎与主观概率三种估算路径都缺乏可靠参考类别，概率本身不能赋予政策正当性。作者提醒政策制定者这类数字并非来自经过验证的模型，并将另文倡导“大帐篷”式安全运动。