跳到正文
11月9日周一
11月6日周五
  1. Google Developers Blog59

    Google 量化代码遗留 TODO 对智能体的干扰成本

    Google 基于数千工程师、数亿步智能体交互的轨迹数据,分析代码内遗留 TODO(bug/...) 引用对编码智能体的干扰:13% 的读文件会话接触到这类引用,6% 触发后续动作且其中 83% 是开发者未要求的偏航,其中 41% 追向已关闭的工单,57% 造成范围蔓延。

11月5日周四
11月3日周二
  1. OpenAI:Alignment 研究博客62

    OpenAI 发布激活分类器技术报告,将其作为前沿模型的实时安全监控层

    OpenAI 介绍自 GPT-5.6 起在最强模型上训练并部署激活分类器(probes),利用模型内部激活在生成过程中逐 token 实时监测违规行为,可中断响应并阻止工具调用。实验显示 probes 对测试越狱攻击比基于文本的分类器更鲁棒,性能随被监控模型能力提升,并在多个后训练检查点间迁移良好;但依赖标注数据,需针对新基础模型重新训练,只能检测可显式训练的目标。

    推荐理由:OpenAI 官方披露激活分类器的架构与训练细节,并给出与文本分类器在越狱鲁棒性上的实测对比,可了解白盒安全监控的落地经验。

11月2日周一
10月30日周五
  1. OpenAI:Alignment 研究博客72

    OpenAI 详解前沿模型失准行为的监测系统

    OpenAI 官方博文介绍其针对前沿模型的失准行为监测系统,涵盖 L0 激活探针到 L3 自动化调查的多层架构,覆盖训练、评估、内部使用和部分外部部署。

    推荐理由:OpenAI 以当事方身份披露监测系统的分层架构、召回数据和真实案例,读者可以借此了解前沿模型失准行为检测的实际做法与局限。

10月23日周五
10月20日周二
  1. Zyphra Research65

    Zyphra 发布 ZOE 第二波 MI355X 推理优化报告,GLM-5.3 长上下文 TTFT 提速至 3.6x

    Zyphra 发布 Zyphra Optimization Engine(ZOE)第二波推理优化技术报告,针对 AMD Instinct MI355X 编写融合 MoE、DSA lightning indexer、CSA top-K 选择和 dual-scope decode 四个自定义 HIP kernel,并集成进其生产 fork 的 vLLM 和 SGLang。

    推荐理由:Zyphra 以实测 roofline 为基准公开了 kernel 与端到端数据,长上下文 MoE 推理优化方法对同类工程工作有参考价值。

10月13日周二
10月8日周四
10月6日周二
10月2日周五
9月27日周日
9月26日周六
9月25日周五
  1. Wiz:Research64

    Wiz 拆解 Infostealer 如何窃取云、代码与 AI 环境凭据

    Wiz 发布研究,解析窃密型恶意软件如何通过窃取开发者凭据攻入企业云、代码和 AI 环境。数据显示 Lumma、RedLine 和 Vidar 占已检测事件的 85.7%,AWS 凭据占被盗秘密的 46%,GitHub 约 10%,AI 平台凭据占 5% 且以 OpenAI API key 为主。

    推荐理由:文章系统梳理了窃密型恶意软件偷取云、代码与 AI 凭据的具体文件路径和会话劫持手法,可用于对照自查自身开发环境暴露面。

9月24日周四
9月17日周四
  1. Anthropic:Research75

    Anthropic 报告 Claude 加速 30 多个生物分子模型并开源优化代码

    Anthropic 发布研究结果显示,Claude 在不到四周内优化了 30 多个开源生物深度学习模型,结构预测平均加速约 4 倍、精度损失极小,同精度输出下约加速 1.6 倍,其中 FlashPairformer 自定义内核在 triangle attention 上超领域标准 2.7-2.9 倍。

    推荐理由:Anthropic 官方给出 Claude 优化 30 多个生物模型的加速数据、Big 模式规模上限和开源代码,可据此评估 Agent 做推理优化的实际效果。

9月15日周二
8月26日周三
  1. Fireworks AI74

    Fireworks 评测 DeepSeek V4 Pro 0813:SWE-Bench 95.2%,单任务成本约为 Fable 5 的三分之一

    Fireworks AI 发布对 DeepSeek V4 Pro 0813 的评测,该模型在 SWE-Bench Verified 得 95.2%、LiveCodeBench v6 得 92.0%,均领先 Fable 5 和 Kimi K3,SWE-bench 单个解决任务成本 $0.309,约为 Fable 5($0.808)的三分之一。

    推荐理由:Fireworks 用同一套评测对比 V4 Pro 与 Fable 5 和 Kimi K3,给出逐任务成本数据,并说明 Java 弱项和 oracle 路由的上限含义。

8月21日周五
7月29日周三
7月26日周日
5月18日周一
5月4日周一
5月1日周五
  1. OpenAI:Alignment 研究博客77

    OpenAI 在 Codex 中发布 Auto-review,用独立智能体审批越界操作

    OpenAI 上周在 Codex 中发布 Auto-review 模式,用另一个 Codex 智能体代替人工审批沙箱边界外的操作,Codex 会话人工审批频率比手动模式降低约 200 倍。

    推荐理由:原文给出 Auto-review 的拦截率与局限细节,并承认它不防模型 scheming,读者可据此判断该机制的实际边界。

3月13日周五
2月24日周二
2025年12月2日周二
2025年8月5日周二
  1. Goodfire Research60

    Anthropic、Goodfire 等多机构发布电路研究全景:复现 attribution graph 并开源工具

    Anthropic、Decode、EleutherAI、Goodfire、Google DeepMind 的研究者合作发布 The Circuits Research Landscape,复盘 attribution graph 方法的复现与扩展结果。

    推荐理由:多家机构共同复盘 attribution graph 复现结果与 transcoder 训练细节,并给出可复用的工程参数和未来研究方向。