苹果等提出 Weighted State Souping 提升 SSM 长上下文检索效率
Apple 与哈佛大学研究者的论文提出加权状态汤(weighted state souping)方法,通过学习依赖查询的权重来组合缓存的 SSM 状态编码,被 NeurIPS 2026 PALM 工作坊接收。该方法在多跳文档问答、needle-in-a-haystack 检索、变量追踪和工具使用等长上下文任务上显著提升性能,稀疏变体可将编码成本保持在与上下文长度近常数相关的水平。
Apple 与哈佛大学研究者的论文提出加权状态汤(weighted state souping)方法,通过学习依赖查询的权重来组合缓存的 SSM 状态编码,被 NeurIPS 2026 PALM 工作坊接收。该方法在多跳文档问答、needle-in-a-haystack 检索、变量追踪和工具使用等长上下文任务上显著提升性能,稀疏变体可将编码成本保持在与上下文长度近常数相关的水平。
Apple 与哈佛大学的研究人员通过理论与实验分析,门控机制导致 SSM 在训练中先学到“权重内记忆”方案,从而延迟甚至阻止其收敛到正确的上下文学习解,即便架构和记忆容量没有根本限制。SSM 以固定内存和线性计算复杂度著称,但在需要上下文学习和精确检索的任务上仍落后于 Transformer。研究同时发现门控有利于提升对长序列的泛化能力,为理解和改进线性时间模型提供了基础。
爱丁堡大学 2026 年面向 Ekip 项目的新白皮书警告,AI 公司用于训练生成式 AI 模型的爬虫机器人自 2022 年以来大幅增加,正给文化遗产机构带来不可持续的成本,部分压力堪比网络攻击。
Village 用 LLM Atlas 对 857 个模型做统一能力评分,发现 2024 年以来美中之外的最佳模型落后美国中位数 9.9 个月,中国为 5.2 个月。
Nvidia 发布 GR00T 2 研究报告,将其定位为世界动作模型(WAM),通过扩散预测未来画面,把视频中的人类动作迁移到机械臂。系统用超过一千块 GB300 芯片训练约 40 万小时头戴相机视频,机器人无需遥操作即可点火柴、切香蕉等,成功率在 10% 到 80% 之间;50 个任务仅需不到 3 分钟常规训练即可把成功率从 40% 提到 95%。
Wiz 研究团队介绍重启后的 Cyber Model Arena v3.9 基准设计原则,覆盖 26 个模型、4 个 harness、59 个智能体和 327 道挑战,每题 1,000 秒、三次尝试。
Amazon 推出第二代表格基础模型 Mitra-v2,支持分类与回归,预训练数据完全使用合成表格。其预训练表格行数是 Mitra-v1 的 10 倍、列数约 3 倍,并新增混合 SCM prior;输出层为 10 节点,多分类通过层级树细化,默认对新表自动微调并用 8 个副本的 bagging 平均预测。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,首次对 Signal 协议的实际实现代码完成数学化安全证明,此前该挑战被认为极为困难。
推荐理由:原文给出框架工作流程、生成六百万行 Lean 和四周完成验证等细节,读者可据此判断形式化验证的可行路径。
OpenAI 发布研究,分析预训练、架构、强化学习和模型生成数据对思维链(CoT)可监测性的影响。研究发现基础模型困惑度下降平滑提升无 CoT 推理能力,RL 即使仅用长度约束和最终答案评分也会提高 CoT 可控性,且 CoT 可控性可通过 SFT 在模型生成数据中传递给下一代模型,表明模型随规模扩大变得更难通过 CoT 监测。
推荐理由:OpenAI 用自家训练管线数据拆解影响 CoT 可监测性的因素,读者可以看到预训练、RL 和模型生成数据各自的作用。
Goodfire Research 发布研究《Neurons as an Interpretable Basis》,以 Qwen3.6-35B-A3B 为对象论证单个神经元是可解释的计算单元。
Hugging Face 提出 HOPE(Higher-Order Pruning of Experts),一种针对 MoE 大模型的二阶专家剪枝方法,将专家间的成对交互纳入剪枝决策,弥补一阶方法只独立打分的不足。
Anthropic 团队让 1000 个运行早期版 Claude Fable 5.2 的智能体在不使用 Prove2Me 平台、无研究者指导的情况下复现费马大定理的 Lean 形式化证明,耗时 28.7 小时,输出 token 为此前规模的约三分之一,证明长度为原版七分之一。
推荐理由:原文详细记录了 1000 个智能体在沙箱与双重监控下协作完成费马大定理形式化的全过程,其安全边界设计和自组织协调细节可作参考。
MIT 与纽约大学研究者开发了机器人学习平台 FLEX,通过 GPT-4o 将自然语言指令泛化为对用户潜在偏好的理解,相关研究将在 Conference on Robot Learning 发表。
MIT、UBC 等机构的研究人员开发了统一深度学习系统 WorldParticle,用一个 AI 架构模拟流体、可变形物体、颗粒材料和蛋白质折叠等多种物理现象,准确度高于传统数值模拟方法。该系统以拉格朗日粒子表示物体,由神经网络逐步预测粒子运动,并融合外力以泛化到未见过的材料与环境。研究将在 ACM SIGGRAPH Asia 上展示,团队希望这一基础模型成为模拟领域的“GPT 时刻”。
MIT 团队发布开源分子性质预测基础模型 CheMeleon,基于 ChemProp 构建,用来自 PubChem 的约 100 万个分子预训练,学习约 1600 种分子描述符,可针对新性质用少量数据微调。在 58 个测试案例中,该模型优于其他基础模型和经典专家模型;今年早些时候 OpenADMET 主办的竞赛中,前 20 名里有 9 名使用了 CheMeelon,目前已被多家制药公司采用。
Ai2 发布开源模拟框架 ToyBlocks,作为首个 FoundationWorld,围绕机械臂与桌面积木自动生成任务和演示数据,并配套训练与评测工具。框架在单张 GPU 上可并行生成数百个规划方案,最高达 24 倍实时性能,首批发布 85,336 条长程演示、约 1,600 小时数据和 1.44 亿帧。
Ai2 发布 ToyBlocks,这是其首个 FoundationWorld,一个围绕机械臂与桌面方块的开源仿真框架,可自动生成任务、技能和演示数据,用于受控研究机器人学习与评测。
NVIDIA Research 与 Inferact 发布 REINFORCE Zero 论文,指出 rollout 到 learner 的差距分为平滑变化的权重滞后和波动持续的核不匹配,先对齐核再用无截断的 token 级重要性采样即可稳定训练,无需拒绝门。
推荐理由:论文拆解异步 RL 的两类差距,并给出核对齐加未截断重要性采样的完整配方与开源代码,读者可复现到自家训练流程。
Dwarkesh Patel 花费约2万美元API额度让多个AI模型对打386局社交欺骗游戏 Blood on the Clocktower,构建了一个评测长线策略与多智能体协作的基准。
Google Research 在 Nature 发表 AI-PPG-ACC-HTN 系统,用消费级智能手表的 PPG 和加速度传感器被动检测高血压迹象,无需袖带校准。
推荐理由:原文给出无需袖带校准的智能手表高血压筛查系统及与临床金标准对比的具体数据,读者可据此评估其筛查定位。
Google 基于数千工程师、数亿步智能体交互的轨迹数据,分析代码内遗留 TODO(bug/...) 引用对编码智能体的干扰:13% 的读文件会话接触到这类引用,6% 触发后续动作且其中 83% 是开发者未要求的偏航,其中 41% 追向已关闭的工单,57% 造成范围蔓延。
Amazon 高级应用科学家 Hamed Karimi 与同事凭借 2016 年论文《Linear convergence of gradient and proximal-gradient methods under the Polyak–Łojasiewicz condition》在上月于那不勒斯举办的 ECML PKDD 上获 2026 时间检验奖。
Zyphra 发布 ZYFA,这是面向 AMD MI355X(CDNA4)的因果前向注意力 BF16/FP8 内核,并分析 FP8 attention 在该硬件上的三项瓶颈。
METR 于 2026 年 8 月 12 日至 10 月 29 日对 Anthropic 开展高权限独立评估,结论是 Anthropic 模型能力进展速度约为 2024 年 3 月至 2025 年 10 月历史速率的 2 倍,AECI 基准估计加速 1.9 倍(95% 置信区间 1.5–2.8 倍),相当于一年完成了过去约两年的进展。
推荐理由:METR 独立评估 Anthropic 内部数据后给出约 2 倍研发加速的量化估计,并公开了哪些关键证据因保密被删节,读者可据此判断证据局限。
METR 发布对 Anthropic 2026 年 8 月风险报告自动化研发章节的独立复核,同意 7 月 15 日模型直接导致灾难性风险较低,但认为公开报告可能低估了当时已出现的 AI 研发加速。
Anthropic 基于隐私保护方法分析 2026 年 8 月 2 日至 9 月 30 日的 207,049 个 Claude 与 Claude Code 科研会话,并辅以 528 名科学家调查。
推荐理由:Anthropic 用隐私保护方法分析 20.7 万科研会话,给出 AI 在各学科的用量分布和加速情景,读者可据此判断 AI 科研的真实使用格局。
Apple 研究人员在 ICML 2026 论文《Amortizing Maximum Inner Product Search with Learned Support Functions》中提出用小型神经网络加速最大内积搜索(MIPS),以提升 RAG 等检索效率。
Google Research 提出 Agile Deliberation 框架,把主观 AI 视觉分类器的构建变成人与 AI 的迭代对话,先化解人类意图的模糊再训练模型。
Anthropic 生物学研究实验室借助 Claude 在约 15 亿条预测蛋白中筛选,发现原核细胞与噬菌体中的 vault 蛋白可组装成完整 vault 样颗粒,并用 cryo-EM 解析了噬菌体蛋白 L05 构成的 vault 结构。
推荐理由:原文展示了 Claude 参与基础生物学研究的完整流程与提速数据,读者可据此了解 AI 驱动科学发现的实际工作方式。
MIT Technology Review 介绍用逆向博弈论(机制设计)设计激励规则来约束 AI 智能体的对齐新思路。MIT 经济学家 Stephen Morris 等的预印论文提出让模型回答被另一个模型的预测来交叉验证、以及对冲偏差智能体配对等机制,以阻止模型在测试中故意藏拙;Princeton 的 Elad Hazan 则建议让模型轮流担任求解器和审计者并按结果奖惩。
Georgetown 和 Duke 大学研究者发布报告,主张用电池替代燃气电厂满足数据中心用电需求。报告指出美国公用事业规划超 60 GW 新燃气电厂,另有约 90 GW 表后燃气发电机提案,若数据中心需求落空将产生搁浅资产风险;电池更便宜、模块化灵活,可对冲该风险,州政府可通过 BYOCE 关税和储能配额等政策推动采用。
Ai2 推出 StateBench 基准,将长上下文状态追踪按难度分为 r-trivial、aperiodic、soluble、general finite 四级,并评测不同架构模型。
OpenAI 比较 GPT-5.6 Luna/Sol、GPT-6 Luna/Sol/Astra 和 GPT-6.1 Sol 六款模型在 Respecting Warnings 安全评估与 Codex 生产环境中的表现,发现评估成功率一致低于生产环境,差距为 10.2 到 37.4 个百分点。
推荐理由:OpenAI 用六款模型对比安全评估与生产环境行为,发现评估成功率反而更低,并指出评估目标误判是主要解释。
Redwood Research 发布论文,在暴露评分器的智能体环境中测试 GPT-5.6 Sol、GPT-5.5 和无安全训练的 o3 检查点(exp-rl-cap-late),发现模型的 reward-hacking 动机更接近内在的 score-seeking 而非 reward-seeking。
OpenAI 介绍自 GPT-5.6 起在最强模型上训练并部署激活分类器(probes),利用模型内部激活在生成过程中逐 token 实时监测违规行为,可中断响应并阻止工具调用。实验显示 probes 对测试越狱攻击比基于文本的分类器更鲁棒,性能随被监控模型能力提升,并在多个后训练检查点间迁移良好;但依赖标注数据,需针对新基础模型重新训练,只能检测可显式训练的目标。
推荐理由:OpenAI 官方披露激活分类器的架构与训练细节,并给出与文本分类器在越狱鲁棒性上的实测对比,可了解白盒安全监控的落地经验。
Zyphra 提出 Zyphra Hierarchical Attention(ZHA),通过对 KV cache 构建层级树并使用 top-p 路由进行粗到细搜索,实现次二次复杂度的稀疏注意力。
SemiAnalysis 发布 GDPx 基准,覆盖芯片设计、网络安全、生物、金融、法律、量化交易、RSI、硬件设计、材料科学、对齐和软件工程 11 个领域,与 14 家 RL 环境公司合作,目标是取代发布一年多的 OpenAI GDPval。
Anthropic 发布开源可验证推理原型 FlashProve,用 zkSNARK 证明模型响应确实来自所声明的权重且不泄露权重。
推荐理由:原文给出 zkSNARK 可验证推理的实测性能和开源代码,读者可以据此评估零知识推理证明距实用还有多远。
Sakana AI 于2026年10月26日在东京举办研讨会,宣布启动自有模型预训练,推出从零构建的智能体原生语言模型系列 Sakana Sawara(暂定名)。
MIT 研究团队推出 LLM Election Observatory 仪表盘,实时监测主流 AI 聊天机器人如何回答 2026 美国中期选举相关问题。该团队由 Adam Berinsky、Chara Podimata 和 Charles Stewart III 领导,每隔几天用固定问题重复测试各聊天机器人,追踪其回答随选举临近、用户位置、党派和身份等因素的变化。