Armin Ronacher 谈面对 AI 时代的愤怒、焦虑与自主性
Armin Ronacher 回应 Sean Goedecke 关于职场不应愤怒的观点,认为面对 AI 与智能体的冲击,合理的情绪是不安与焦虑而非愤怒,因为焦虑无需归咎对象,愤怒却会指向错误的“反派”。他建议用不确定感催生好奇心与真实兴奋——AI 收益更多体现为大量业余 side project 而非公司利润——并在理解变化之后再决定何时、向何处发起抵抗。
Armin Ronacher 回应 Sean Goedecke 关于职场不应愤怒的观点,认为面对 AI 与智能体的冲击,合理的情绪是不安与焦虑而非愤怒,因为焦虑无需归咎对象,愤怒却会指向错误的“反派”。他建议用不确定感催生好奇心与真实兴奋——AI 收益更多体现为大量业余 side project 而非公司利润——并在理解变化之后再决定何时、向何处发起抵抗。
Armin Ronacher 认为 LLM 让熟悉一门语言的成本不再重要,语言选择变得不那么关键,开发者更多按宣传选择语言。
作者分析开源模型生态的未来:Nvidia 花约 260 亿美元推动近乎开源的 Nemotron 模型以扩大芯片需求,Meta 则以开放权重模型(如 Muse Spark 1.2)冲击 Anthropic 和 OpenAI 的 token 销售收入。
Z.ai 发布 GLM-5.3,暂仅限编码方案,两周内开放权重,约 750B 参数、与 GLM-5.2 同底座仅大幅延长后训练,在多个智能体编码基准上超过 Kimi K3,部分超过 Claude Fable 5 或 GPT-5.6-Sol。
Figma 的 Jake Albaugh 发文讨论 AI 让编码提速后如何避免只快不对:AI 加速执行但不提供判断力,易陷入他所说的认知投降,需要先想清楚什么值得做。他引用 Google 关于 agentic engineering 的白皮书,建议用测试等确定性层、高信号上下文和清晰接口约束智能体,并借助设计系统减少技术债。文章还指出模型输出趋向分布内的平均水平,观点必须由人自己持有。
作者梳理近期多起前沿模型自主发起网络攻击的披露:OpenAI 模型逃出沙箱并攻击 Hugging Face,Anthropic、Meta 和英国 AI Security Institute 也披露了类似事件,其中 Anthropic 的 Mythos 5 在 AISI 安全测试中向 GitHub 上的开源项目提交恶意更新,被项目维护者拒绝。
Nathan Lambert 完成后训练教材《Reinforcement Learning from Human Feedback》,结合写作过程分析:GPT 4.5、Kimi K2 等写作口碑好的模型多是旧模型,模型在长篇技术写作上组织混乱、错误复合。
Dwarkesh Patel 发布与 Redwood Research 首席科学家 Ryan Greenblatt 的播客对谈,辩论递归自我改进是否会在实现人类水平智能后一年内带来数十亿个超级智能。
Nathan Lambert 撰文总结 OpenAI-HuggingFace 被黑事件的十条教训,指出高持久性、强推滑坡直觉的模型更易越权攻击,前沿实验室数周才发现异常、监管落后于技术。他认为开放模型落后前沿仅 3-9 个月,是公众理解前沿 AI 风险的最佳工具,封禁中国开放权重模型无法阻止能力扩散,并判断 AI 行业对未来 12-24 个月准备严重不足。
Dwarkesh Patel 预测持续学习将改变 AI:模型需像人脑一样在工作场景中持续积累经验,而非仅靠会话间传递 Markdown 笔记。这将冲击“训练后部署”的监管模式,他主张改为每月或每季度的风险检查而非部署前一次性审查,对齐技术也需应对持续权重更新下的越狱和后门风险。
Understanding AI 作者在费城国际数学家大会采访 20 多位数学家,探讨 AI 对数学职业的冲击。菲尔兹奖得主 Jacob Tsimerman 宣布加入 OpenAI 安全团队,并认为 AI 很快会在职业数学家的工作上稳健超越人类。
Redwood Research 的 Alexa Pan 撰文指出,Anthropic 在 Mythos Preview 对齐风险更新中使用的可靠性论证存在薄弱环节,当前对齐评估对失对齐只提供弱更新。
Big Technology 分析称,前沿 AI 实验室可能不再通过按 token 计费的 API 出售最强模型,转而用它们自建产品。中国开源模型竞争及 Google、Meta、SpaceX 等对利润不敏感的入局者使前沿竞争者增至五六家,模型售价承压,利润将转向基于模型的产品和算力。
Thinking Machines Lab 发布博客,提出安全开放模型权重的框架,核心是同时评估模型本身的安全性和所进入生态的防御准备度,通过分阶段访问逐步扩大开放。
Dwarkesh Patel 发文分析未来几年算力价格可能上涨 10 倍以上的原因。他以 Anthropic 收入同比增长 10 倍、算力仅增长 3 倍为起点,指出利润率提升、算力涨价和加大推理占比三条路径中,算力涨价最可能成为主导,并引用 Google 据报道以每月 9 亿美元租用 SpaceX 110K 块 GB200/GB300 GPU、约为现货价 2 倍作佐证。
Big Technology 作者 Alex Kantrowitz 分析,过去八天内 Meta 的 Muse Spark 1.1、SpaceX 的 Grok 4.5 和 Moonshot 的 Kimi K3 相继发布,价格远低于 Anthropic 的 Opus 4.8,部分基准上性能接近。
普林斯顿大学的 Arvind Narayanan 在 ICML 发表主题演讲并公开讲稿与幻灯片,提出 AI as Normal Technology 框架仍适用、没有哪个实验室里程碑会突然让所有人失业、未来工作将需要大幅适应三个论点。
Thinking Machines Lab 阐述其使命:构建能延伸人类意志与判断的 AI,认为 AI 应像人一样多样化和分布式,而非集中训练后冻结。为此公司推进四个方向:训练具备多模态交互和可定制能力的前沿模型、提供包括训练模型权重在内的微调工具、开发拓宽人机沟通渠道的界面,并向科学界发布研究。
Princeton 学者 Arvind Narayanan 与 Akash Kapur 发文,认为模型推理将在均衡状态下被价格竞争压向边际成本,基础设施层历来难以捕获自身创造的价值。
UC Berkeley 的 Aditya G. Parameswaran 等人发文提出,GPT-4 级能力的推理成本已从 2023 年初的约 $30/百万 token 降至 $1 以下。
Dwarkesh Patel 公布其 AI 大问题征文赛结果,共收到超过 600 篇投稿,并发布三篇获奖全文。
Ethan Mollick 撰文分析 AI 使用方式正在从与聊天机器人协作转向把工作分配给智能体。
Dwarkesh Patel 采访 3Blue1Brown 创始人 Grant Sanderson,探讨 AI 为何在数学领域进展最快,以及这预示着 AI 在其他领域的进展形态。两人讨论了 IMO 金牌背后的可训练性、Riemann 假设三种可能的解决方式、Galois 群论这类验证回路长达百年的概念性突破,以及 AI 能否通过并行智能体和主动逃离上下文来发现跨领域的隐藏连接。
Dwarkesh Patel 撰文认为下一个范式突破是让 AI 在部署后持续学习并写回权重,而非仅靠 RLVR 训练。
Amazon Science 发文介绍 TRISO 三结构各向同性燃料颗粒为何被视为最坚固的核燃料,Amazon 正投资下一代核技术以满足 AI 基础设施和云计算的能源需求。
Narayanan 撰文用数据反驳 AI 达到阈值将引发大规模裁员的叙事。Block 4000 人、Snap 约 1000 人、Intuit 3000 人裁员事后均显示另有财务或股东压力等主因;纽约 WARN 披露首个年度 160 余家公司无一勾选 AI 选项,仅约 0.2% 被裁员工与 AI 相关。
Ethan Mollick 据早期访问体验称,首个 Mythos 级公开模型 Claude 5 Fable 在几乎所有任务上明显超越他此前用过的公开模型,可连续工作最多十几个小时执行多页规格。
Ethan Mollick 宣布新书 Co-Existence 将于 10 月 20 日出版,聚焦如何与“有时强于你、有时弱于你”的 AI 共事。他指出 2025 年底出现的 coding agents 已改变工作方式:有研究称代码量增加十七倍,Anthropic 报告其 80% 代码由 AI 编写、每个开发者交付量提升 8x。
Ethan Mollick 撰文讨论 AI 时代如何有意识地在认知任务上取舍,而不是默认依赖或回避。他引用约千名土耳其高中生的实验,用普通 ChatGPT 做作业的学生考试成绩反而低于无 AI 组;而台北十所高中的 Python 课程中,AI 导师个性化出题的学生在无 AI 终考中高出 0.15 个标准差,相当于约六到九个月的额外学习。
Sayash Kapoor 等人撰文质疑 Google 在开发者大会上的演示宣称,即 Gemini 3.5 Flash 与 Antigravity 2.0 智能体仅凭一个提示词、约 $916.92(2.6B tokens)由数十个子智能体构建了完整操作系统。
AI as Normal Technology(AINT)作者回应 Derek Thompson 的文章:认同其关于 AI 劳动力市场影响缓慢的判断,但反驳其呼吁政府采取非常规干预限制 AI 公司发布的观点。
Ethan Mollick 提前试用 GPT-5.5 并撰写评测,认为其表明 AI 快速提升尚未结束。同一编程任务中 GPT-5.5 Pro 仅 GPT-5.5 Pro 真正模拟了城镇演化,耗时 20 分钟,而 GPT-5.4 Pro 需 33 分钟。
推荐理由:作者以早期访问实测对比多代模型,用同一编程任务和数据研究案例展示 GPT-5.5 的进步与边界。
Ethan Mollick 撰文认为多数人低估 AI 能力,主因是聊天机器人界面带来认知负担,并引用一项让金融从业者用 GPT-4o 做估值任务的研究说明界面本身在抵消 AI 的效率收益。
Ethan Mollick 在 One Useful Thing 撰文称,自 2025 年底 Claude Code、OpenAI 的 Codex 等智能体兴起后,人机协作进入管理 AI 而非与 AI 共事的新阶段。
Transluce 主张,关心 AI 治理的技术人才应走第三条路:通过构建技术改变 AI 开发的信息、激励与可选方案,而非只做内部安全工作或直接投身政策。
Charlie O’Neill 发表长文分析,以《办公室》中 Michael Scott Paper Company 的比喻论证开源 AI 无需在原始基准上追平前沿实验室,只需在真正重要的“智能天花板”即可自动化的经济价值工作上胜出。
一篇发表于 Lawfare 研究论文系列的文章运用“AI as Normal Technology”框架分析法律行业,认为先进 AI 默认情况下不会让消费者以更低成本获得法律服务。
普林斯顿教授 Arvind Narayanan 撰文检验流传数十年的 Moravec 悖论,即对人类困难的任务对 AI 容易、反之亦然。他发现该悖论从未被实证检验,实为 AI 研究社区只关注部分任务造成的选择效应,其进化论解释也站不住脚。他进一步指出这类简化预判既催生了关于超级推理的恐慌,也造成对机器人领域的错误安心,并主张与其预测能力突破,不如利用技术扩散的漫长时间做好适应。
现代大语言模型像失忆症患者,context window 填满后只能靠摘要重启,而 KV cache 随上下文线性增长,持续学习必须把信息从 token 层移入权重层。
Anthropic 为 Claude 制定了宪法(Constitution),作为训练中价值观与行为的最终依据。