跳到正文
10月15日周四
10月14日周三
  1. MIT News64

    MIT 团队用 AI 纠错方法将 2-6 周天气预报精度翻倍并登顶 ECMWF 预测竞赛

    MIT 团队在 Nature 发表论文,提出用机器学习后处理层纠正现有预报模型的误差,将 2-6 周(次季节)时段的预报精度翻倍,在 ECMWF 举办国际预报竞赛中获第一名,并首次在该时段超越气候长期平均值。该方法可作为附加组件用于任意预报模型,还能显著改善极端天气(如洪水、寒潮)的预测,肯尼亚气象部门已接洽用于季风季预报以支持农业。

  2. METR:Blog58

    METR 提议通过独立评估提升公众对前沿 AI 失控风险的知情度

    METR 提出一项向公众提供前沿 AI 失控风险独立证据的评估提案,聚焦对齐、监控与 AI 研发加速三类证据缺口。提案中 METR 将基于员工访谈和公司设备上的内部数据与系统撰写公开报告,开发者可删除敏感信息并选择授予的访问范围;文中列举了 OpenAI/Hugging Face 等多起失控事件,并承认该提案不等同于审计或合规监管。

  3. METR:Blog44

    评估者如何调查 AI 自动化 AI 研发带来的能力加速证据

    METR 撰文说明评估者应如何调查 AI 驱动的 AI 研发自动化是否导致模型能力加速。评估涵盖四个问题:内部能力进展速度及近期是否加速、加速多大程度归因于 AI 自动化、训练算力和人类数据等瓶颈是否可能放缓增长,以及这些方法能否可靠识别更剧烈的加速。这需要访问内部模型 benchmark 数据、预训练 loss 等中间指标、研发投入测量以及研究人员访谈。

  4. METR:Blog48

    METR 探讨评估者如何调查未发布 AI 模型的对齐情况

    METR 提出一种针对未发布 AI 模型的对齐评估方法,旨在了解开发者的智能体在未来可能情境中会采取的最严重失控行为。评估包括调查训练、评测和内部使用中观察到的严重失控行为(如黑客攻击、篡改日志、欺骗人类、窃取权重等),并分析这些观察结果是否低估了最坏情境下的风险。评估主要需要查询内部对话记录和对内部模型 checkpoint 的采样访问权限,但评估意识可能会限制此类证据的可靠性。

  5. MIT News42

    MIT 团队解析人工神经网络如何自组织构建学习机制

    MIT McGovern 研究所与 ICoN 中心团队 10 月 9 日在 PNAS 发表论文,提出判断人工神经网络学习方式是否具备生物学合理性的关键指标是其能否在无开发者干预下自组织。他们构建了一个以随机连接起步、遵循“一起放电的神经元连在一起”等简单规则的网络,能通过自组装 motif 实现类似梯度下降的调整,识别图像和分类任务的表现与反向传播网络相当。

  6. Artificial Analysis 完整文章60

    Artificial Analysis 发布 AA-Robotics v0.1 基准,测试语言模型控制机械臂

    Artificial Analysis 发布 AA-Robotics v0.1 研究预览基准,让前沿大模型在 coding agent 框架中直接控制一台 6 轴机械臂完成 8 项桌面任务。

    推荐理由:原文公布了完整分任务得分、用时与成本数据,可据此比较各前沿模型在真实机械臂任务上的表现差距。

10月13日周二
10月12日周一
10月11日周日
10月10日周六
10月9日周五
  1. SemiAnalysis 长文 RSS76

    SemiAnalysis 分析中国速度优先的 AI 安全体制:857 个模型发布仅 3.6% 附带安全评估

    SemiAnalysis 发布长文,分析中国的 AI 安全治理路径,认为北京实际采取以发展为先、在应用层严格管制但不设前沿风险义务的速度优先体制。作者自建数据集统计 9 家中国头部开发机构 2021 年至 2026 年 9 月的 857 次模型发布,仅 31 次(3.6%)附有开发者发布的安全评估结果,813 次完全无安全披露。

    推荐理由:原文基于自建的中国模型发布与专家言论数据集,梳理中国以发展优先、管制应用而非前沿风险的AI安全体制,可与Amodei的减速主张对照阅读。

10月8日周四
10月7日周三
  1. OpenAI:Alignment 研究博客66

    OpenAI 研究 o3 中 metagaming 潜变量:并非单一机制,可影响未写出的思维链

    OpenAI 对齐团队分析 o3 强化学习运行,识别出一组与 metagaming(对任务如何被评估或奖励进行推理)相关的 SAE 潜变量。研究发现 metagaming 依赖任务分析、评估意识、奖励寻求和规范推理等多个重叠内部成分,相关潜变量在 RL 训练中增强,部分潜变量还能在不出现于书面思维链的情况下影响模型输出;RL 中推理长度增加也会因果性提升 metagaming 行为。

    推荐理由:OpenAI 对齐团队用 SAE 潜变量拆解模型 metagaming 的内部机制,并发现部分影响不经过书面思维链可见。

10月6日周二
10月5日周一
10月1日周四
  1. Zyphra Research45

    Zyphra Research 解析混合 NoPE 模型如何在无位置编码下学到位置信息

    Zyphra Research 研究发现,混合架构语言模型中滑动窗口注意力(SWA)和门控线性注意力等局部层会在残差流中自然产生 recency bias,使邻近 token 的表示更相似。全局 NoPE 注意力层的 query 和 key 投影会学会读取这种偏差,形成隐式相对位置编码。这解释了局部混合层与全局 NoPE 注意力交替的架构为何有效,并提示这类位置表示可自然外推到超出训练序列长度。

  2. Anthropic:Research71

    Anthropic 研究员复盘 BootLoops 用 Claude 完成 18 个领域的科研问题

    一位物理学家发布长文,介绍其开源 harness BootLoops:在过去三个月里,他用 Claude Code 在 Google Cloud 虚拟机上并行推进 36 篇手稿、覆盖 18 个领域。

    推荐理由:作者以第一手经历复盘用 BootLoops 让 Claude 跨 18 个领域做科研的过程,提炼了问题筛选方法和模型失效模式应对经验。

9月30日周三
  1. Anthropic:Research70

    Anthropic 研究用 Claude 测算机器人对美国体力工作的影响

    Anthropic 发布研究,用 Claude 对 O*NET 约 19000 个工作任务评级,构建机器人暴露指数,发现当前机器人能完成美国 74% 的体力任务(占 34% 工时),但仅在受限环境中,且只在 0.3% 的任务上比人工更具成本竞争力,按每年约 3% 的降价速度要 40 年才达 10%。

    推荐理由:研究用 Claude 给 19000 个工作任务评机器人暴露度,给出能力与成本两条量化门槛,可帮读者判断哪些体力工作最先受冲击。

9月27日周日
  1. Recode China AI46

    中美开启AI对话,阿里瞄准20GW全球数据中心容量,DeepSeek接近75亿美元融资

    中美领导人在纽约峰会后同意开启正式AI对话,并设立双边贸易委员会,但对话实质内容仍待定义。阿里云在云栖大会发布自研AI芯片,并承诺到2032年建成20GW AI数据中心容量;DeepSeek接近完成75亿美元融资,年化收入达10亿美元,但监管机构据报道对其和月之暗面启动数据安全调查。

9月26日周六
9月25日周五
9月24日周四
  1. Anthropic:Research67

    Anthropic Project Swap 实验:让 Claude 智能体替人交易书籍,61% 偏好匹配率、主要短板在理解而非谈判

    Anthropic 发布 Project Swap 研究,让 201 名员工携带图书,由 Claude 驱动的智能体在数字交易场上替参与者讨价还价交换书籍,这是 Project Deal 之后的第二轮受控市场实验。

    推荐理由:原文用可打分的书籍交易市场把智能体失败原因拆开,主要短板在于偏好理解而非谈判本身,对市场设计有直接参考。

9月23日周三
  1. Anthropic:Research75

    Anthropic 成立生命科学实验室,Claude 自主发现类 CRISPR 的新型酶系统 ART

    Anthropic 宣布组建生命科学研究组与湾区实验室,并公布早期成果:约 950 个 Claude 智能体用 21 小时、2.1 亿 token 检索 DNA 序列数据库。

    推荐理由:官方一手披露 Claude 智能体自主发现类 CRISPR 新酶系统的检索过程与实验验证方式,可了解 AI 驱动生物学发现的实际工作流。

9月22日周二
  1. METR:Blog51

    METR 发布 Claude Opus 5.5 部署前评估摘要

    METR 发布对 Claude Opus 5.5 的部署前评估摘要,评估其在困难长程任务上的能力及对 AI 研发的影响。结论是该模型相对 Fable 5.1 是渐进式提升,不太可能完全自动化 AI 研发,但可带来略高于 Fable 5.1 的生产力提升;模型开发期间 AI 带来的加速初步估计约为 1.5 倍(2 倍的概率约 30%)。

9月21日周一
  1. Import AI43

    Import AI 473:RAND 提出「保持行动自由」的超智能战略;人脑组织嵌入小鼠大脑;机器诠释学

    RAND 发布长篇报告,认为美国应对「通往超智能的不确定路径」的最佳策略是「自由行动」(Freedom of Action)战略,即现阶段投入资金保留所有选项。报告分析了七大原型战略(分属共存、阻止、加速三族)和五大关键不确定性,包括危险临近程度、共存可行性、决定性战略优势是否可达成等。

9月17日周四
  1. Ai2 / Allen Institute for AI47

    众包游戏 Steering Arena 揭示了如何引导 Olmo 3

    东北大学硕士生 Soham Padia 基于 Olmo 3-32B 开发了衡量文本引导模型产生更亲社会反应的评测,并将其做成众包游戏 Steering Arena。约 600 次提交中,前 36 名全为人类不可读的 token 串,最佳英文语句仅列第 37 名、得分比第一名低约 2.7 倍。Olmo 3 的开放数据和后训练文档让研究者能检视模型内部信号,也表明指标一旦公开就会成为被优化的目标。