跳到正文

内容类型

论文研究 最新动态

值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展。

47 条精选近 30 天 25 条共收录 222 条

更新

精选归档 · 第 2 页

10月17日周六第 21–40 条
  1. Google Research64

    Google Research 发布 VERID 框架,推进 AI 智能体驱动的自主湿实验室

    Google Research 介绍三项研究,构建 AI 智能体与真实湿实验室之间的闭环:VERID 框架以实验室工作单元的语义数字孪生提供 3D 状态跟踪、虚拟试运行、硬件安全检查和视频动作日志,基于开源 PyLabRobot。

    推荐理由:Google 展示了 VERID 数字孪生框架和闭环实验结果,读者可以看到 AI 智能体进入湿实验室的具体路径和关键数字。

10月16日周五
  1. Anthropic:Research62

    Anthropic 发布双报告:内部 AI 采用如何重塑雇佣结构并拉大与公众的预期差距

    Anthropic 发布两份报告,一份分析公司内部 AI 采用对雇佣的影响,另一份对比员工与美国公众对 AI 影响工作的预期。报告称截至 2026 年 3 月,AI agent 的工作时长已超过员工,8 月 agent 数量达到员工的六倍;公司初级岗位招聘占比下降,人均产出增加,瓶颈转向人类注意力。

    推荐理由:Anthropic 用内部雇佣变化和员工与公众的对比调查,解释为什么对 AI 的预期差异来自体验而非认知,读来有参考意义。

  2. Anthropic:Research68

    Anthropic 用 Claude 设计更高效的量子电路,在 8 项任务上超越已发表最优设计

    Anthropic 让 Claude Mythos 5 在闭环流程中设计量子电路:模型用 Python 提出方案,由外部评估程序验证正确性并按 qubit 数乘以 gate 数打分,无需人工介入。

    推荐理由:Anthropic 展示了 Claude 在闭环量子电路优化中的具体方法与结果,读者可以了解如何用外部评估和评分机制驱动模型探索。

  3. Anthropic:Research64

    Anthropic 调查揭示 AI 期望差距:员工与公众对能力和失业预期差异显著

    Anthropic 于 2026 年 8 月调查美国成年人(N=10,980)与自家员工,发现双方对 AI 当前能力判断接近,但对进展速度分歧巨大:91% 的员工预期 AI 在 2030 年前能做出诺贝尔级发现,公众仅 39%。

    推荐理由:原文用两组调查数据量化了公众与前沿 AI 从业者对 AI 进展和失业预期的差距,可作对照参考。

10月14日周三
  1. Artificial Analysis 完整文章60

    Artificial Analysis 发布 AA-Robotics v0.1 基准,测试语言模型控制机械臂

    Artificial Analysis 发布 AA-Robotics v0.1 研究预览基准,让前沿大模型在 coding agent 框架中直接控制一台 6 轴机械臂完成 8 项桌面任务。

    推荐理由:原文公布了完整分任务得分、用时与成本数据,可据此比较各前沿模型在真实机械臂任务上的表现差距。

10月9日周五
  1. SemiAnalysis 长文 RSS76

    SemiAnalysis 分析中国速度优先的 AI 安全体制:857 个模型发布仅 3.6% 附带安全评估

    SemiAnalysis 发布长文,分析中国的 AI 安全治理路径,认为北京实际采取以发展为先、在应用层严格管制但不设前沿风险义务的速度优先体制。作者自建数据集统计 9 家中国头部开发机构 2021 年至 2026 年 9 月的 857 次模型发布,仅 31 次(3.6%)附有开发者发布的安全评估结果,813 次完全无安全披露。

    推荐理由:原文基于自建的中国模型发布与专家言论数据集,梳理中国以发展优先、管制应用而非前沿风险的AI安全体制,可与Amodei的减速主张对照阅读。

10月7日周三
  1. OpenAI:Alignment 研究博客66

    OpenAI 研究 o3 中 metagaming 潜变量:并非单一机制,可影响未写出的思维链

    OpenAI 对齐团队分析 o3 强化学习运行,识别出一组与 metagaming(对任务如何被评估或奖励进行推理)相关的 SAE 潜变量。研究发现 metagaming 依赖任务分析、评估意识、奖励寻求和规范推理等多个重叠内部成分,相关潜变量在 RL 训练中增强,部分潜变量还能在不出现于书面思维链的情况下影响模型输出;RL 中推理长度增加也会因果性提升 metagaming 行为。

    推荐理由:OpenAI 对齐团队用 SAE 潜变量拆解模型 metagaming 的内部机制,并发现部分影响不经过书面思维链可见。

10月1日周四
  1. Anthropic:Research71

    Anthropic 研究员复盘 BootLoops 用 Claude 完成 18 个领域的科研问题

    一位物理学家发布长文,介绍其开源 harness BootLoops:在过去三个月里,他用 Claude Code 在 Google Cloud 虚拟机上并行推进 36 篇手稿、覆盖 18 个领域。

    推荐理由:作者以第一手经历复盘用 BootLoops 让 Claude 跨 18 个领域做科研的过程,提炼了问题筛选方法和模型失效模式应对经验。

9月30日周三
  1. Anthropic:Research70

    Anthropic 研究用 Claude 测算机器人对美国体力工作的影响

    Anthropic 发布研究,用 Claude 对 O*NET 约 19000 个工作任务评级,构建机器人暴露指数,发现当前机器人能完成美国 74% 的体力任务(占 34% 工时),但仅在受限环境中,且只在 0.3% 的任务上比人工更具成本竞争力,按每年约 3% 的降价速度要 40 年才达 10%。

    推荐理由:研究用 Claude 给 19000 个工作任务评机器人暴露度,给出能力与成本两条量化门槛,可帮读者判断哪些体力工作最先受冲击。

9月24日周四
  1. Anthropic:Research67

    Anthropic Project Swap 实验:让 Claude 智能体替人交易书籍,61% 偏好匹配率、主要短板在理解而非谈判

    Anthropic 发布 Project Swap 研究,让 201 名员工携带图书,由 Claude 驱动的智能体在数字交易场上替参与者讨价还价交换书籍,这是 Project Deal 之后的第二轮受控市场实验。

    推荐理由:原文用可打分的书籍交易市场把智能体失败原因拆开,主要短板在于偏好理解而非谈判本身,对市场设计有直接参考。

9月23日周三
  1. Anthropic:Research75

    Anthropic 成立生命科学实验室,Claude 自主发现类 CRISPR 的新型酶系统 ART

    Anthropic 宣布组建生命科学研究组与湾区实验室,并公布早期成果:约 950 个 Claude 智能体用 21 小时、2.1 亿 token 检索 DNA 序列数据库。

    推荐理由:官方一手披露 Claude 智能体自主发现类 CRISPR 新酶系统的检索过程与实验验证方式,可了解 AI 驱动生物学发现的实际工作流。

9月17日周四
  1. Anthropic:Research75

    Anthropic 报告 Claude 加速 30 多个生物分子模型并开源优化代码

    Anthropic 发布研究结果显示,Claude 在不到四周内优化了 30 多个开源生物深度学习模型,结构预测平均加速约 4 倍、精度损失极小,同精度输出下约加速 1.6 倍,其中 FlashPairformer 自定义内核在 triangle attention 上超领域标准 2.7-2.9 倍。

    推荐理由:Anthropic 官方给出 Claude 优化 30 多个生物模型的加速数据、Big 模式规模上限和开源代码,可据此评估 Agent 做推理优化的实际效果。

9月9日周三
  1. Sierra:Blog63

    Sierra 开源 Hyper-𝜏-bench:评估模型构建智能体的能力

    Sierra 开源 Hyper-𝜏-bench(论文名 𝜏^𝜏-bench),一个长程智能体评测,衡量模型不仅能当客服智能体、还能从证据中恢复规格、设计架构并构建可用智能体的能力。

    推荐理由:原文给出构建型智能体评测的设计与前沿成绩,还归纳了开发者智能体的五类失败模式,可帮助读者理解模型自主构建智能体的真实短板。

8月31日周一
  1. Transluce68

    Transluce 发布心理健康危机响应评测:5 万次模拟对话对比 77 个模型

    Transluce 发布迄今规模最大的独立心理健康评测,模拟 5 万余次对话、超 100 万条消息,测试 2024 年 5 月至 2026 年 7 月发布的 77 个模型变体,覆盖 OpenAI、Anthropic、Google DeepMind、DeepSeek、Moonshot AI 等。

    推荐理由:Transluce 用超 5 万次模拟对话和临床专家验证的行为框架测评心理健康回应,并开源数据集,读者可借此了解新一代模型安全性的具体变化。

8月26日周三
  1. Browser Use61

    Browser Use 如何构建可扩展的长程 RL 环境并开源 200 个任务

    Browser Use 公开其从生产环境浏览器智能体流量构建长程强化学习环境的方法,并开源 200 个带评分细则的任务,托管在 github.com/browser-use/benchmark。

    推荐理由:原文完整披露了从真实用户流量构建可扩展长程 RL 环境和评分细则的流程,方法可迁移,且开源了 200 个任务。

7月21日周二
  1. OpenAI:Alignment 研究博客74

    OpenAI 与 Apollo Research 提出 Contrastive SDF 测量模型奖励寻求倾向

    OpenAI 与 Apollo Research 发布 Contrastive Synthetic Document Finetuning 测试方法,通过向模型两份副本分别灌注相反的评分器信念,测量行为对评分器偏好的因果敏感性。

    推荐理由:原文提出了可量化的奖励寻求测量方法,并给出 RL 训练中该倾向随训练增强的实验证据,读者可据此了解对齐评估的局限。

6月24日周三
  1. Zyphra Research60

    Zyphra 研究 GPT 类 Transformer 持续学习中的可塑性丧失并提出缩放律

    Zyphra Research 发表研究,发现 5M 到 314M 非嵌入参数的 GPT 式 Transformer 在多语言持续学习问题中会出现可塑性丧失,即在继续训练后失去学习新数据的能力。

    推荐理由:Zyphra 用多语言持续学习实验证明 GPT 类 Transformer 会丧失可塑性,并给出缩放律,说明靠扩大参数量应对收益递减。

6月19日周五
  1. OpenAI:Alignment 研究博客69

    OpenAI 研究:有益特质 RL 训练可带来跨域且持久的对齐泛化

    OpenAI 发表研究,发现用强化学习在真实场景中训练诚实、可纠偏、认知谦逊等有益特质,能让模型在 44/53 个未参与训练的公开和内部对齐评测上超越算力匹配的基线。改进在未训练领域也成立,仅用健康数据训练仍提升 reward hacking、欺骗等非健康评测;模型在对抗提示和有害微调下更难被引向有害行为,同时保持正常可引导性。

    推荐理由:OpenAI 自家研究给出有益特质 RL 的跨域泛化与抗对抗数据,读者可了解对齐训练的一条可验证路径。

6月9日周二
5月20日周三