Anthropic 论 AI 如何帮助科学家构建可解释的科学模型
Anthropic Research 发文讨论 AI 参与科学建模的三步流程，即构建模型、约束模型和解释模型，并以 1951 年 Hodgkin 和 Huxley 用手摇计算器求解神经元方程的历史为例。文章指出拟合数据不等于理解，AI 系统应借助贝叶斯推断和基于模拟的推断（SBI）返回参数与模型的分布而非单一最优拟合，解释是最难交给 AI 的一步；AI 建模系统目前大多只测试过重新发现已知模型。
#推理
Anthropic：ResearchAI 评分5656
Timothy B. Lee：Understanding AIAI 评分6161 Timothy B. Lee 用机器人学的 sim-to-real gap 解释前沿模型能力的锯齿状分布
Understanding AI 作者认为，机器人学中的 sim-to-real gap 概念能解释 AI 能力为何在编程、数学等领域进展惊人而对其他职业影响有限。编程、数学和围棋等任务可被精确模拟，训练技能容易迁移到真实场景，而涉及与人及复杂物理世界互动的白领工作难以模拟，因此他预计 2027 或 2028 年不会出现大规模职业颠覆。
Nathan Lambert：InterconnectsAI 评分5050 Nathan Lambert：AI 将快速进步但不会走向通用超级智能
Nathan Lambert 撰文认为，AI 研究者看到的是模型在基础设施和工程能力上的大幅加速，数年内模型会成为超人类 GPU 工程师，但这不会让模型本质发生巨变。他预测推理时计算扩容将使模型智能的有效成本近指数级下降，预训练架构与数据选择研究可能在 2-3 年内自动化，并触发 Jevons 悖论推高 Agent 需求；但技术扩散主要惠及数学和编码等领域，而非全面通向超级智能。
Gary Marcus：The Road to AI We Can TrustAI 评分5353 Gary Marcus 评 OpenAI 数学模型成果：真正的新闻是报告本身不透明
Gary Marcus 点评 OpenAI 新发布的数学成果，称真正的新闻不是结果而是报告含糊：使用未发布模型，未说明流程、架构、是否一次性生成证明再由 Lean 验证、失败率和训练细节，因此无法判断结果在数学之外的泛化性。他提醒社交媒体讨论缺乏基本科学追问，并附上 Terence Tao 的相关评论。
Azeem Azhar：Exponential ViewAI 评分7474 Azeem Azhar 分析 OpenAI 未发布模型的数学成果对人类认知的意义
OpenAI 公布了一组未发布前沿模型产生的数学结果，涉及 372 个族的 722 篇论文，覆盖数论、复杂性理论和数学物理，平均每个结果相当于三小时 ChatGPT Pro 思考，部分已在 Lean 中验证但并非全部。Azeem Azhar 据此提出，数学可能分化为机器数学与人类数学两层，后者是我们能理解的机器前沿压缩版有效理论。
Redwood Research：BlogAI 评分5252 Redwood Research 分析潜在推理架构如何削弱 CoT 这一最强监督工具
Redwood Research 的 Lukas Finnveden 撰文认为，潜在推理架构（如 COCONUT、full-bandwidth transformers、looped transformers）会让模型绕过文本瓶颈进行大量推理，从而削弱链式思维（CoT）这一当前最有效监督工具的价值。
Nathan Lambert：InterconnectsAI 评分5252 Nathan Lambert 解析为何仍不认可真正的递归自我改进（RSI）
Nathan Lambert 撰文认为真正 RSI 尚未到来，提出 lossy self-improvement 作为基线判断：可自动化的研究范围太窄、并行智能体收益递减、资源与政治因素更难被 AI 加速。
Dwarkesh Patel：Podcast & BlogAI 评分6262 Dwarkesh 对谈 OpenAI Noam Brown：智能体集群、对齐与递归自我改进
Dwarkesh Patel 发布与 OpenAI 研究员 Noam Brown 的播客对谈。
Dwarkesh Patel：Podcast & BlogAI 评分5454 Dwarkesh 对谈 Redwood Research 首席科学家 Ryan Greenblatt：AI 能自动化 AI 研究之后会发生什么
Dwarkesh Patel 发布与 Redwood Research 首席科学家 Ryan Greenblatt 的播客对谈，辩论递归自我改进是否会在实现人类水平智能后一年内带来数十亿个超级智能。
Timothy B. Lee：Understanding AIAI 评分6363 数学家们在国际数学家大会上讨论 AI 可能超越人类的职业前景
Understanding AI 作者在费城国际数学家大会采访 20 多位数学家，探讨 AI 对数学职业的冲击。菲尔兹奖得主 Jacob Tsimerman 宣布加入 OpenAI 安全团队，并认为 AI 很快会在职业数学家的工作上稳健超越人类。
Dwarkesh Patel：Podcast & BlogAI 评分5555 Dwarkesh Patel 对谈 Grant Sanderson：AI 与数学的未来
Dwarkesh Patel 采访 3Blue1Brown 创始人 Grant Sanderson，探讨 AI 为何在数学领域进展最快，以及这预示着 AI 在其他领域的进展形态。两人讨论了 IMO 金牌背后的可训练性、Riemann 假设三种可能的解决方式、Galois 群论这类验证回路长达百年的概念性突破，以及 AI 能否通过并行智能体和主动逃离上下文来发现跨领域的隐藏连接。
Dwarkesh Patel：Podcast & BlogAI 评分6060 Dwarkesh Patel：下一个大突破是 AI 在工作中持续学习
Dwarkesh Patel 撰文认为下一个范式突破是让 AI 在部署后持续学习并写回权重，而非仅靠 RLVR 训练。
Ethan Mollick：One Useful ThingAI 评分5656 Ethan Mollick 撰文解析 AI 智能体时代的形态与滚动式冲击
Ethan Mollick 在 One Useful Thing 撰文称，自 2025 年底 Claude Code、OpenAI 的 Codex 等智能体兴起后，人机协作进入管理 AI 而非与 AI 共事的新阶段。
Charlie O’Neill 研究写作AI 评分5252 开源 AI 是“迈克尔·斯科特纸业公司”：Charlie O‘Neill 论专业化和时间差如何利好开源模型
Charlie O’Neill 发表长文分析，以《办公室》中 Michael Scott Paper Company 的比喻论证开源 AI 无需在原始基准上追平前沿实验室，只需在真正重要的“智能天花板”即可自动化的经济价值工作上胜出。
Charlie O’Neill 研究写作AI 评分4646 持续学习与“单体模型之后”的 AI 时代：为何持续学习离不开专用化
现代大语言模型像失忆症患者，context window 填满后只能靠摘要重启，而 KV cache 随上下文线性增长，持续学习必须把信息从 token 层移入权重层。
Ethan Mollick：One Useful ThingAI 评分6464 Ethan Mollick 解析 AI 能力的锯齿边界、瓶颈与突破口
Ethan Mollick 提出，AI 能力呈锯齿状分布，即使部分能力超人类，记忆缺失、幻觉和制度流程等瓶颈仍使其难以完全自动化任务。
Cursor：ChangelogAI 评分6363 Cursor 阐述 AI 编程下一阶段的关键问题与研究方向
Cursor 发布对最初问题博文的后续补充，列出对下一阶段 AI 编程最关键的问题与研究方向。