Rutger Bregman 撰文呼吁警惕 AI 风险并主张暂停训练更强模型

Rutger Bregman 在 Substack 撰文称应当对 AI 感到恐慌，指出怀疑派预测屡屡落空，而 Daniel Kokotajlo 等警告者的预测接连应验。他引用 METR 对 Anthropic 的调查，称其模型改进约 80% 的提速来自 AI 本身、进度比 AI 2027 情景快五个月，并提出禁止 AI 研发 AI、暂停训练更强模型、派独立检查员核查芯片等建议。