跳到正文
10月16日周五
  1. Anthropic:Research68

    Anthropic 用 Claude 设计更高效的量子电路,在 8 项任务上超越已发表最优设计

    Anthropic 让 Claude Mythos 5 在闭环流程中设计量子电路:模型用 Python 提出方案,由外部评估程序验证正确性并按 qubit 数乘以 gate 数打分,无需人工介入。

    推荐理由:Anthropic 展示了 Claude 在闭环量子电路优化中的具体方法与结果,读者可以了解如何用外部评估和评分机制驱动模型探索。

  2. Anthropic:Research64

    Anthropic 调查揭示 AI 期望差距:员工与公众对能力和失业预期差异显著

    Anthropic 于 2026 年 8 月调查美国成年人(N=10,980)与自家员工,发现双方对 AI 当前能力判断接近,但对进展速度分歧巨大:91% 的员工预期 AI 在 2030 年前能做出诺贝尔级发现,公众仅 39%。

    推荐理由:原文用两组调查数据量化了公众与前沿 AI 从业者对 AI 进展和失业预期的差距,可作对照参考。

10月15日周四
10月14日周三
  1. MIT News64

    MIT 团队用 AI 纠错方法将 2-6 周天气预报精度翻倍并登顶 ECMWF 预测竞赛

    MIT 团队在 Nature 发表论文,提出用机器学习后处理层纠正现有预报模型的误差,将 2-6 周(次季节)时段的预报精度翻倍,在 ECMWF 举办国际预报竞赛中获第一名,并首次在该时段超越气候长期平均值。该方法可作为附加组件用于任意预报模型,还能显著改善极端天气(如洪水、寒潮)的预测,肯尼亚气象部门已接洽用于季风季预报以支持农业。

  2. METR:Blog44

    评估者如何调查 AI 自动化 AI 研发带来的能力加速证据

    METR 撰文说明评估者应如何调查 AI 驱动的 AI 研发自动化是否导致模型能力加速。评估涵盖四个问题:内部能力进展速度及近期是否加速、加速多大程度归因于 AI 自动化、训练算力和人类数据等瓶颈是否可能放缓增长,以及这些方法能否可靠识别更剧烈的加速。这需要访问内部模型 benchmark 数据、预训练 loss 等中间指标、研发投入测量以及研究人员访谈。

  3. METR:Blog48

    METR 探讨评估者如何调查未发布 AI 模型的对齐情况

    METR 提出一种针对未发布 AI 模型的对齐评估方法,旨在了解开发者的智能体在未来可能情境中会采取的最严重失控行为。评估包括调查训练、评测和内部使用中观察到的严重失控行为(如黑客攻击、篡改日志、欺骗人类、窃取权重等),并分析这些观察结果是否低估了最坏情境下的风险。评估主要需要查询内部对话记录和对内部模型 checkpoint 的采样访问权限,但评估意识可能会限制此类证据的可靠性。

  4. MIT News42

    MIT 团队解析人工神经网络如何自组织构建学习机制

    MIT McGovern 研究所与 ICoN 中心团队 10 月 9 日在 PNAS 发表论文,提出判断人工神经网络学习方式是否具备生物学合理性的关键指标是其能否在无开发者干预下自组织。他们构建了一个以随机连接起步、遵循“一起放电的神经元连在一起”等简单规则的网络,能通过自组装 motif 实现类似梯度下降的调整,识别图像和分类任务的表现与反向传播网络相当。

  5. Artificial Analysis 完整文章60

    Artificial Analysis 发布 AA-Robotics v0.1 基准,测试语言模型控制机械臂

    Artificial Analysis 发布 AA-Robotics v0.1 研究预览基准,让前沿大模型在 coding agent 框架中直接控制一台 6 轴机械臂完成 8 项桌面任务。

    推荐理由:原文公布了完整分任务得分、用时与成本数据,可据此比较各前沿模型在真实机械臂任务上的表现差距。

10月13日周二
10月11日周日
10月10日周六
10月9日周五
  1. SemiAnalysis 长文 RSS76

    SemiAnalysis 分析中国速度优先的 AI 安全体制:857 个模型发布仅 3.6% 附带安全评估

    SemiAnalysis 发布长文,分析中国的 AI 安全治理路径,认为北京实际采取以发展为先、在应用层严格管制但不设前沿风险义务的速度优先体制。作者自建数据集统计 9 家中国头部开发机构 2021 年至 2026 年 9 月的 857 次模型发布,仅 31 次(3.6%)附有开发者发布的安全评估结果,813 次完全无安全披露。

    推荐理由:原文基于自建的中国模型发布与专家言论数据集,梳理中国以发展优先、管制应用而非前沿风险的AI安全体制,可与Amodei的减速主张对照阅读。

10月8日周四
10月7日周三
  1. OpenAI:Alignment 研究博客66

    OpenAI 研究 o3 中 metagaming 潜变量:并非单一机制,可影响未写出的思维链

    OpenAI 对齐团队分析 o3 强化学习运行,识别出一组与 metagaming(对任务如何被评估或奖励进行推理)相关的 SAE 潜变量。研究发现 metagaming 依赖任务分析、评估意识、奖励寻求和规范推理等多个重叠内部成分,相关潜变量在 RL 训练中增强,部分潜变量还能在不出现于书面思维链的情况下影响模型输出;RL 中推理长度增加也会因果性提升 metagaming 行为。

    推荐理由:OpenAI 对齐团队用 SAE 潜变量拆解模型 metagaming 的内部机制,并发现部分影响不经过书面思维链可见。

10月6日周二
10月5日周一
10月2日周五
10月1日周四
  1. Zyphra Research45

    Zyphra Research 解析混合 NoPE 模型如何在无位置编码下学到位置信息

    Zyphra Research 研究发现,混合架构语言模型中滑动窗口注意力(SWA)和门控线性注意力等局部层会在残差流中自然产生 recency bias,使邻近 token 的表示更相似。全局 NoPE 注意力层的 query 和 key 投影会学会读取这种偏差,形成隐式相对位置编码。这解释了局部混合层与全局 NoPE 注意力交替的架构为何有效,并提示这类位置表示可自然外推到超出训练序列长度。

  2. Anthropic:Research71

    Anthropic 研究员复盘 BootLoops 用 Claude 完成 18 个领域的科研问题

    一位物理学家发布长文,介绍其开源 harness BootLoops:在过去三个月里,他用 Claude Code 在 Google Cloud 虚拟机上并行推进 36 篇手稿、覆盖 18 个领域。

    推荐理由:作者以第一手经历复盘用 BootLoops 让 Claude 跨 18 个领域做科研的过程,提炼了问题筛选方法和模型失效模式应对经验。

9月30日周三
  1. Anthropic:Research70

    Anthropic 研究用 Claude 测算机器人对美国体力工作的影响

    Anthropic 发布研究,用 Claude 对 O*NET 约 19000 个工作任务评级,构建机器人暴露指数,发现当前机器人能完成美国 74% 的体力任务(占 34% 工时),但仅在受限环境中,且只在 0.3% 的任务上比人工更具成本竞争力,按每年约 3% 的降价速度要 40 年才达 10%。

    推荐理由:研究用 Claude 给 19000 个工作任务评机器人暴露度,给出能力与成本两条量化门槛,可帮读者判断哪些体力工作最先受冲击。

9月27日周日
9月26日周六
9月25日周五
  1. Wiz:Research64

    Wiz 拆解 Infostealer 如何窃取云、代码与 AI 环境凭据

    Wiz 发布研究,解析窃密型恶意软件如何通过窃取开发者凭据攻入企业云、代码和 AI 环境。数据显示 Lumma、RedLine 和 Vidar 占已检测事件的 85.7%,AWS 凭据占被盗秘密的 46%,GitHub 约 10%,AI 平台凭据占 5% 且以 OpenAI API key 为主。

    推荐理由:文章系统梳理了窃密型恶意软件偷取云、代码与 AI 凭据的具体文件路径和会话劫持手法,可用于对照自查自身开发环境暴露面。

9月24日周四
  1. Anthropic:Research67

    Anthropic Project Swap 实验:让 Claude 智能体替人交易书籍,61% 偏好匹配率、主要短板在理解而非谈判

    Anthropic 发布 Project Swap 研究,让 201 名员工携带图书,由 Claude 驱动的智能体在数字交易场上替参与者讨价还价交换书籍,这是 Project Deal 之后的第二轮受控市场实验。

    推荐理由:原文用可打分的书籍交易市场把智能体失败原因拆开,主要短板在于偏好理解而非谈判本身,对市场设计有直接参考。

9月23日周三
  1. Anthropic:Research75

    Anthropic 成立生命科学实验室,Claude 自主发现类 CRISPR 的新型酶系统 ART

    Anthropic 宣布组建生命科学研究组与湾区实验室,并公布早期成果:约 950 个 Claude 智能体用 21 小时、2.1 亿 token 检索 DNA 序列数据库。

    推荐理由:官方一手披露 Claude 智能体自主发现类 CRISPR 新酶系统的检索过程与实验验证方式,可了解 AI 驱动生物学发现的实际工作流。

9月22日周二
  1. METR:Blog51

    METR 发布 Claude Opus 5.5 部署前评估摘要

    METR 发布对 Claude Opus 5.5 的部署前评估摘要,评估其在困难长程任务上的能力及对 AI 研发的影响。结论是该模型相对 Fable 5.1 是渐进式提升,不太可能完全自动化 AI 研发,但可带来略高于 Fable 5.1 的生产力提升;模型开发期间 AI 带来的加速初步估计约为 1.5 倍(2 倍的概率约 30%)。