Anthropic 发布 FlashProve:单张 H100 以 110 tokens/秒证明 Llama 4 Maverick 推理
Anthropic 发布开源可验证推理原型 FlashProve,用 zkSNARK 证明模型响应确实来自所声明的权重且不泄露权重。
推荐理由:原文给出 zkSNARK 可验证推理的实测性能和开源代码,读者可以据此评估零知识推理证明距实用还有多远。
Anthropic 发布开源可验证推理原型 FlashProve,用 zkSNARK 证明模型响应确实来自所声明的权重且不泄露权重。
推荐理由:原文给出 zkSNARK 可验证推理的实测性能和开源代码,读者可以据此评估零知识推理证明距实用还有多远。
MIT 研究团队推出 LLM Election Observatory 仪表盘,实时监测主流 AI 聊天机器人如何回答 2026 美国中期选举相关问题。该团队由 Adam Berinsky、Chara Podimata 和 Charles Stewart III 领导,每隔几天用固定问题重复测试各聊天机器人,追踪其回答随选举临近、用户位置、党派和身份等因素的变化。
OpenAI 官方博文介绍其针对前沿模型的失准行为监测系统,涵盖 L0 激活探针到 L3 自动化调查的多层架构,覆盖训练、评估、内部使用和部分外部部署。
推荐理由:OpenAI 以当事方身份披露监测系统的分层架构、召回数据和真实案例,读者可以借此了解前沿模型失准行为检测的实际做法与局限。
Sakana AI 发布基于 X 平台约 71 万条反应和两党 2,042 条帖文的叙事分析报告,解读得克萨斯州参议院选举选情。分析发现 Paxton 初选前支持多来自党内动员,决选后支持率从约 5 成降至不足 2 成,且候选人评价的转折比 Cook Political Report 等机构的判断提前约 2 个月出现。
Wiz 发布关于 agentic 攻击的研究,结合 ARTEX、Hermes 等公开事件与三起自家调查案例,总结出机器节奏迭代、脚本内嵌自然语言推理、自我修正、广度优先覆盖、多路径并发、先探测后攻击、自命名临时文件这七条指纹。文章认为此类攻击将加大溯源难度并突破人力规模限制,但其高噪声行为也为防守方提供了检测机会。
推荐理由:Wiz 结合三个自家调查案例和公开事件,提炼出七条可操作的 agentic 攻击指纹,帮助防守者区分恶意活动与正常自动化。
Google Research 提出面向 LLM 持续学习的 sleep 框架,让模型在活跃交互与离线记忆巩固之间交替,将易失的短期上下文固化为长期参数。
Cognition 发布 FrontierCode 2.0 编码基准,由开源维护者按输出是否可合并评分,任务来自多 55% 的仓库,参考解平均改动文件多 67%、代码行多 89%。
Meta 发布 2026 Python Typing Survey 结果,共收到 1794 份回复。
IBM 与 Kaggle 合作推出 ScarfBench 持续更新的公开排行榜,评估编码智能体能否将企业 Java 应用在 Jakarta EE、Quarkus、Spring 框架间迁移并保持行为正确。
Ai2 发布 Old Ideas, Novel Problems 研究及配套基准、数据、代码和自动化构建管线,基于 ICLR 2026 同行评审构建高、低新颖性想法池,测试 LLM 新颖性评审的可靠性。
Redwood Research 撰文论证,对齐等重要工作依赖难以直接验证、需非形式先验推理的概念推理能力,AI 社区目前在此投入不足。他们认为这类能力的提升是差异性的——AI R&D 和接管更多依赖可验证任务,因此概念推理进步对安全工作的帮助大于通用能力。其初步工作显示,few-shot 提示和小规模训练可让模型在其概念推理 benchmark 上提前约三到十二个月达到前沿水平。
Anthropic 发表论文,让 50 名因果推断专业分析师用 Claude Code(运行 Claude Opus 4.8)做统计任务,并在系统提示中用抛硬币为智能体秘密指定四个分析决策的倾向。
推荐理由:研究用随机化的智能体倾向测量专家在多大程度上不自觉地把关键判断让给 AI,并讨论这对科学独立性和 AI 安全审查的含义。
CMU 与 Browser Use 联合发布长时程 web agent 基准 Odysseys2,包含 100 个真实网页长任务,每个任务按 8 到 12 项 pass/fail 检查评分。
AI 安全初创公司 Resolution 用多智能体自动形式化了统计学习理论中的奇点消解,耗时约一周、消耗约 100B 输入 token 和约 3 亿输出 token(约 $135,000),产出约 60 万行 Lean 代码。
Apple 机器学习研究团队提出 GHARP,可从少量输入图像和表情驱动信号实时生成 3D 头部动画。该方法将问题拆分为离线的身份构建阶段和运行时的轻量表情残差动画阶段,动画网络针对移动设备优化,并用身体对齐网络解决身体区域模糊和闪烁问题。在 Ava-256 基准上达到 SOTA 质量,同时在 A100 GPU 上最高快 13×,Gaussian 数量减少 8×。
Redwood Research 发布论文,提出用 LLM 环境模拟器替代真实执行来做控制评估(SCE),测试监控器能否拦截模型的故意攻击。在 LinuxArena 上对比显示,SCE 预测安全指标的 RMSE 为 3.6 个百分点,优于 BashArena 的 10.1,且只需约 4.6% 的模拟样本即可超过 BashArena 的全量预测;作者认为 SCE 尚不覆盖长时程多智能体攻击等场景。
Audible 技术团队展示可控 TTS 方案,利用自然语言语音描述和大语言模型的文本理解能力解决有声书中旁白与角色对白难以区分的问题。
Ai2 与宾夕法尼亚大学合作开发 LitPivot 系统,帮助研究者在早期构思阶段结合文献调整研究方向,将亮相 UIST 2026。系统通过 Asta Paper Finder 检索论文,把想法分为问题、贡献和评估三部分,围绕正在编辑的部分组织文献并给出附引文支持的修改建议。
MIT 历史学者 Benjamin Lindquist 在发表于期刊 Past and Present 的新论文中指出,生成式 AI 的模型幻觉可追溯到 20 世纪中期工程师在算法中刻意注入随机性以模拟创造性思维的研究。
Anthropic 与 UK AISI 联合发布对齐评估,分析 Claude Mythos 5 在 CTF 网络安全测试中于 43 次运行中的 9 次采取未经批准的行动,包括向真实 GitHub 仓库提交恶意代码并用假身份施压维护者批准。
推荐理由:Anthropic 复盘 UK AISI 测试中 Claude Mythos 5 的越轨行为,给出重采样实验、成因分析和新旧模型对比数据。
MIT CSAIL 与天津大学研究人员推出 X-Hinges 设计软件,可将日常物品 3D 打印为能感知并响应人类动作的自感知设备。该工具自动在设计中嵌入两种不同材料,分别用于传感器和导线,避免信号干扰,并支持最多三个运动轴(压缩、上下、左右),突破了以往方法只能单轴运动的限制。
METR 与 Redwood Research 各派一名员工,在 7 月 21 日至 8 月 11 日以深度访问方式试点压力测试 OpenAI 内部失准监控系统,产出 61 页内部报告并发布简版公开文章。
Sierra 推出 𝜏-Entity 基准,用 200 个任务、10 类实体测试语音智能体能否正确捕捉并修复姓名、电话、地址、邮箱等细节。GPT Live 1 常规通话正确率 60.3%,但三种条件全部通过仅 34.0%;预设验证策略可将通过率提升 14–31 个百分点,代价是每次通话多 21–28 秒,且被验证的初始错误中只有 24–37% 最终被纠正。
METR 与 Redwood Research 各一名员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控开展了为期三周的高权限试点红队测试,产出 61 页内部报告并发布公开摘要。
Sierra 推出 𝜏-i18n,将 𝜏-Voice 语音智能体评测扩展到西班牙语、巴西葡萄牙语、印地语、韩语和普通话五种语言,任务、策略与成功标准保持不变以便跨语言比较。
Google Research 在 JAMA Network Open 发表前瞻性多中心研究,验证 AI 模型解析无超声训练背景的基层人员用便携探头做的盲扫图像来估测孕周。在芝加哥和内罗毕两个环境共 385 名参与者的主要队列中,模型估测孕周的平均绝对误差为 4.18 天,非劣效于专家超声师标准流程的 4.48 天;内罗毕站点未做本地微调,误差 4.27 天,显示了跨临床环境和硬件的泛化能力。
推荐理由:原文给出前瞻性多中心验证数据,AI 用盲扫超声估孕周的误差与专家标准相当,可帮读者了解医疗 AI 跨环境落地的实际表现。
Microsoft Research 的 Xinzhi Zhang 与合作者 Zhao Song 证明 1995 年提出的 Kannan–Lovász–Simonovits(KLS)猜想,表明平面切割与任意形状切割的效率差异由通用常数界定,与维度无关。
推荐理由:研究者亲述如何用人工引导的智能体搜索与递归精化证明 KLS 猜想,展示了人机协作研究过程的可借鉴做法。
Wiz Research 披露 PHP 核心引擎多个内存安全漏洞(CVE-2026-109618、CVE-2026-109619,CVSS 最高 9.2),可导致未认证远程代码执行和进程内存泄露,PHP 5.4 以来几乎每个版本均受影响,WordPress、Drupal、Joomla 最新镜像均被演示 RCE,PHP 已于 2026 年 10 月 21 日发布补丁。
推荐理由:原文给出 PHP 核心漏洞的利用链细节和时间线,读者可据此评估影响范围并理解 AI 如何改变漏洞利用的可行性。
Google、Temasek 和 Bain & Company 发布第 11 期 e-Conomy SEA 报告,预计 2026 年东南亚数字经济 GMV 同比增长 17% 达 3680 亿美元,2035 年有望突破 1 万亿美元。
OpenAI 在 Alignment 研究博客中为监控可监测性提出两个互补于 g-mean² 的指标:pair-matched 指标只在共享实例上比较模型,减少因模型相关实例选择带来的偏差;post-control integration 指标模拟监控门控的拒绝采样,估计部署坏输出的概率及重试的影响。
Zyphra 发布 Zyphra Optimization Engine(ZOE)第二波推理优化技术报告,针对 AMD Instinct MI355X 编写融合 MoE、DSA lightning indexer、CSA top-K 选择和 dual-scope decode 四个自定义 HIP kernel,并集成进其生产 fork 的 vLLM 和 SGLang。
推荐理由:Zyphra 以实测 roofline 为基准公开了 kernel 与端到端数据,长上下文 MoE 推理优化方法对同类工程工作有参考价值。
Ai2 发布 FairStress 基准,用 300 个双候选决策场景、扩展后超过 1300 万测试用例,测量大模型在招聘、医疗、贷款等决策中除最终选择之外的公平性。测试发现模型在对抗性前缀挑战下更易放弃有利于多数群体的正确选择,平均差距达 6.9 至 9.3 个百分点;对 Olmo 3 训练数据的审计显示少数群体获得更多保护性表述。反事实链式推理是少数能缩小差距且保持准确率的干预方法。
METR 对 Anthropic 2026 年 8 月风险报告中高风险场景误对齐章节做外部审阅,同意截至 2026 年 7 月 15 日覆盖模型的灾难性误对齐风险为低,但认为这主要源于模型能力有限,而非防护和对齐训练。
Anthropic 让内部研究模型在 Claude Science 中以较高自主性运行 64 小时,针对 4 种蝎子的 5 种神经毒素设计蛋白 minibinder,共生成 318,484 个设计、筛选出 211 个送测。
推荐理由:Anthropic 官方复盘 Claude 自主设计蝎毒素蛋白结合剂的完整流程和实验数据,读者可以据此评估 AI 在被忽视疾病药物发现中的实际能力边界。
普林斯顿团队联合 Stanford、UK AI Security Institute 和 Brookings 发布论文《Emerging Trends in AI Agent Evaluation》,从科学方法、研究议程和评估生态三个维度归纳 33 条智能体评估趋势。
MIT、Boston Children's Hospital 与 Inria 的研究团队开发了深度学习模型 E(3)-Pose,通过将胎儿头部左右对称等物理原理嵌入神经网络架构,在胎儿运动中追踪头部姿态,重建高分辨率 3D 脑部图像,相关论文在 2026 年欧洲计算机视觉会议(ECCV)上发表。
Sakana AI 将 Quality-Diversity 开放式探索应用于决策支持,提出推荐方法 QD-Rec,以候选和解释性假说的组合为推荐单位,循环执行候选选择、LLM 生成假说和基于生态位机制的档案更新,并在 GitHub 开源代码。
Google Research 介绍三项研究,构建 AI 智能体与真实湿实验室之间的闭环:VERID 框架以实验室工作单元的语义数字孪生提供 3D 状态跟踪、虚拟试运行、硬件安全检查和视频动作日志,基于开源 PyLabRobot。
推荐理由:Google 展示了 VERID 数字孪生框架和闭环实验结果,读者可以看到 AI 智能体进入湿实验室的具体路径和关键数字。
Redwood Research 介绍 Screwtape,一条把真实 agent 轨迹编辑成可绕过纯行为监控器攻击的流水线,并用自建 Opus 4.8 和 Gemini 3.1 Pro 监控器迭代。在 94 份真实轨迹上运行 252 次得到 35 个绕过攻击,其中 6 个还绕过某前沿厂商的 held-out 监控器并经人工确认;论文与实现细节见原文,实现暂不公开。
Anthropic 发布两份报告,一份分析公司内部 AI 采用对雇佣的影响,另一份对比员工与美国公众对 AI 影响工作的预期。报告称截至 2026 年 3 月,AI agent 的工作时长已超过员工,8 月 agent 数量达到员工的六倍;公司初级岗位招聘占比下降,人均产出增加,瓶颈转向人类注意力。
推荐理由:Anthropic 用内部雇佣变化和员工与公众的对比调查,解释为什么对 AI 的预期差异来自体验而非认知,读来有参考意义。