跳到正文
9月11日周五
  1. Cognition 模型 / Devin 博客73

    Cognition 发布编码模型 SWE-2,推动能力与推理成本的 Pareto 前沿

    Cognition 发布迄今最先进的编码模型 SWE-2,基于 2.8T 参数的 Kimi K3 后训练,FrontierCode 1.1 Main 得分 50.0%,比 Fable 5.1 仅差 1 分且便宜 64%,比 GPT-6 Astra 低几分但成本仅四分之一。

    推荐理由:官方既给出与 GPT-6 Astra、Fable 5.1 的对比数据,也详述了 RL 成本惩罚等训练方法,读者可借此理解低成本高能力的实现路径。

9月10日周四
9月9日周三
8月27日周四
8月17日周一
8月12日周三
8月6日周四
  1. Together AI 研究与产品博客71

    Together AI 实测 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna 的 DeepSWE 成本与编码表现

    Together AI 在 DeepSWE 全部 113 个任务上各跑 4 次实测 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna,Luna pass@1 达 67.2%,约为 DeepSeek(53.3%)的 6 倍成本($0.61 对 $0.10)。

    推荐理由:原文用同一跑分实测两款模型的成本与质量取舍,并给出可复用的级联组合方法,适合按技术栈选型的读者参考。

8月4日周二
8月1日周六
  1. Together AI 研究与产品博客79

    Kimi K3 开发者指南:Together AI 上的用法、定价与基准

    Together AI 发布 Kimi K3 开发者指南,讲解如何在自家 API 上使用月之暗面 2.8 万亿参数的开源模型 K3,该模型支持 1M 上下文。

    推荐理由:Together AI 直接服务该模型,指南给出推理档位、缓存和动态工具加载等实操要点,可帮助开发者控制 1M 上下文下的使用成本。

7月29日周三
  1. Berkeley AI Research63

    研究者用 K-Search 将 CUDA kernel 优化经验迁移到 Apple Silicon 的 MLX

    IBM Research 基于加州大学伯克利 Sky Lab 的 K-Search 演进式 kernel 搜索框架,为其新增 MLX 后端和结构化 CUDA 到 MLX 翻译层,把概念映射表、MLX 专有模式和可复用断言作为上下文供进化搜索使用。

    推荐理由:原文给出可复现的 CUDA 到 MLX 翻译层做法与分项数据,读者可据此评估跨平台 kernel 迁移的方法是否适用。

7月22日周三
  1. METR:Blog47

    METR 与 7 位经济学家合著论文分析递归自我改进的经济学

    METR 的 Parker 与 Tom 联合 7 位经济学家发表论文《The Economics of Recursive Self-Improvement》,通过一系列简单模型分析 AI 加速 AI 研发的反馈效应强度。论文认为无法排除能力出现持续快速加速的可能,但数据、训练算力、推理算力或实验等瓶颈也可能使加速放缓。作者还呼吁实验室发布更多相关数据,并给出了一份未来发布的“愿望清单”。

7月15日周三
6月30日周二
  1. Dwarkesh Patel:Podcast & Blog55

    Dwarkesh Patel 对谈 Grant Sanderson:AI 与数学的未来

    Dwarkesh Patel 采访 3Blue1Brown 创始人 Grant Sanderson,探讨 AI 为何在数学领域进展最快,以及这预示着 AI 在其他领域的进展形态。两人讨论了 IMO 金牌背后的可训练性、Riemann 假设三种可能的解决方式、Galois 群论这类验证回路长达百年的概念性突破,以及 AI 能否通过并行智能体和主动逃离上下文来发现跨领域的隐藏连接。

6月26日周五
6月16日周二
6月12日周五
  1. Zyphra Research68

    Zyphra 发布 Apache 2.0 开源实时 TTS 模型 ZONOS2

    Zyphra 发布开源实时语音合成模型 ZONOS2,采用 MoE 架构,总参数 8B、激活参数 900M,Apache 2.0 许可,称其为首个开源 MoE TTS 模型。

    推荐理由:官方同时放出权重、推理代码和自建评测集,还解释了 WER 与克隆保真度的权衡,读者可据此评估其语音克隆路线。

6月3日周三
  1. OpenAI:部署安全与系统卡61

    OpenAI 发布 GPT-Rosalind-5.5 系统卡,生命科学能力模型以可信访问为主要防护

    OpenAI 发布 GPT-Rosalind-5.5 系统卡,该模型基于 GPT-5.5 增量训练,面向生命科学能力,不再拒绝复杂生物学查询,转而以可信访问审核作为主要防护。

    推荐理由:系统卡说明模型为何不拒绝生物学查询,以及可信访问、持续监控和可撤销权限等部署 safeguards 的具体做法。

5月22日周五
5月18日周一
5月14日周四
5月11日周一
5月8日周五
5月7日周四
  1. Zyphra Research60

    Zyphra 发布 ZAYA1-74B-Preview,在 AMD 上完成大规模预训练

    Zyphra 发布 ZAYA1-74B-Preview,这是一个总参数 74B、激活 4B 的 MoE 预 RL 推理基座,未做 RL 后训练或指令微调,权重以 Apache 2.0 许可在 Hugging Face 开放。

    推荐理由:官方发布给出了架构、训练数据规模和 pass@4 对比细节,读者可以据此评估这个预 RL 基座在 AMD 上扩展预训练的实际水准。

  2. OpenAI:Alignment 研究博客67

    OpenAI 调查 RL 训练中意外评分 CoT 对多款已发布模型的影响

    OpenAI 披露其自动检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini、GPT-5.4 mini 的部分 RL 训练意外评分了思维链,GPT-5.5 未受影响。

    推荐理由:原文披露了意外 CoT 评分的具体影响范围和消融分析,读者可以据此判断这类事件对思维链可监测性的实际风险。

5月6日周三
  1. Zyphra Research64

    Zyphra 发布 AMD 训练的 MoE 模型 ZAYA1-8B

    Zyphra 发布 ZAYA1-8B,首个在 AMD Instinct MI300 集群上完成预训练、中期训练和微调的 MoE 模型,活跃参数不足 10 亿,在数学、编码和推理基准上可匹敌或超过大得多的开源模型,如 Mistral-Small-4-119B。

    推荐理由:官方详解了架构、AMD 训练栈和 Markovian RSA 推理方法,读者可据此评估小参数 MoE 模型的实际推理能力。

4月20日周一
  1. Berkeley AI Research44

    GRASP:如何在长时序世界模型中实现基于梯度的规划

    Berkeley AI Research 发文介绍 GRASP,一种面向学习型世界模型的基于梯度规划器,使长时序规划变得可行。该方法通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代中直接加入随机性以探索、重塑梯度避免经由高维视觉模型的不稳定“状态-输入”梯度。这项工作与 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun、Amir Bar 等人合作完成。

4月14日周二
  1. Cognition 模型 / Devin 博客60

    Cognition 与 Applied Compute 推出 RL 训练的 bug 检测专用模型 SWE-check,速度约为 Opus 4.6 的 10 倍

    Cognition 与 Applied Compute 合作 RL 训练了 bug 检测专用模型 SWE-check,在内部 in-distribution 评测上与 Opus 4.6 持平(delta F1 从 0.09 降到 0)。

    推荐理由:原文给出了完整训练配方和关键评测数字,读者可以借鉴其奖励函数设计与两阶段后训练方法。

4月1日周三
3月25日周三
  1. Zyphra Research43

    Zyphra 提出 HAM:用 RNN 与 KV cache 互补的混合关联记忆架构

    Zyphra 介绍其混合关联记忆(HAM)架构,让 RNN 负责压缩总结序列内容,KV cache 仅存储 RNN 难以预测的 token,从而兼顾精确回忆与高效推理。路由机制基于预测误差阈值,并测试了端到端可学习路由和指数深度平均(EDA)路由。在 800M 规模的对比实验中,HAM 以远小于标准 Transformer 的 cache 规模取得了接近或更优的表现。

3月12日周四
  1. OpenAI:Alignment 研究博客57

    OpenAI 发布 ARGO 方法,将黑盒奖励模型蒸馏为可解释评分标准

    OpenAI 对齐团队提出 ARGO,用强化学习训练策略生成可解释的评分标准,使 LLM 评分器与黑盒奖励模型的偏好概率对齐。在学习到的标准中发现群体级偏差,如 Population A 的奖励模型更重视具体交付物而轻视准确性,可能放大幻觉和讨好行为;训练中评分标准还会逐步简化,去掉脆弱的门控规则,提升泛化与评测准确率。附录还显示前端奖励模型偏重视觉呈现而非功能正确性。

3月5日周四
  1. OpenAI:部署安全与系统卡68

    OpenAI 发布 GPT-5.4 Thinking 系统卡,评估安全表现与 Preparedness 定级

    OpenAI 发布 GPT-5.4 Thinking 系统卡,将本次发布在生物与化学领域定为 High 能力并启用相应 Preparedness 安全保障。安全评测显示其在禁止内容评估上与 gpt-5.2-thinking 大体持平,在非法非暴力活动和自残评估上有统计显著改进,动态心理健康多轮评估全面优于此前模型。

    推荐理由:系统卡披露 GPT-5.4 Thinking 的安全评测、Preparedness 定级和 Apollo 外部对齐评估,可据此了解其风险定位与生物能力判定的依据。

2月14日周六
2月7日周六
2月5日周四
1月26日周一
1月13日周二
  1. OpenAI:Alignment 研究博客56

    OpenAI 解释为何看好模型 confession 坦白机制作为对齐方向

    OpenAI 研究人员 Boaz Barak 等发文详解其 confession 坦白论文的后续分析,说明为何将坦白作为对齐安全方向。核心机制是训练模型额外输出一份仅以诚实为奖励的报告,作者假设诚实是获取奖励的最省力路径;在字数约束实验中,即使任务判断模型被 hack,坦白判断准确率仍随训练升至接近 100%。

2025年12月23日周二
2025年12月21日周日