vLLM 实现 MiniMax-M3.1-Flash Day-0 支持
vLLM 在发布当天为 MiniMax-M3 系列新模型 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。
推荐理由:原文给出了多平台内核优化细节和 AgentX 实测吞吐数据,读者可以据此评估该模型在不同 GPU 上的部署性价比。
vLLM 在发布当天为 MiniMax-M3 系列新模型 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。
推荐理由:原文给出了多平台内核优化细节和 AgentX 实测吞吐数据,读者可以据此评估该模型在不同 GPU 上的部署性价比。
Microsoft Research 的 Xinzhi Zhang 与合作者 Zhao Song 证明 1995 年提出的 Kannan–Lovász–Simonovits(KLS)猜想,表明平面切割与任意形状切割的效率差异由通用常数界定,与维度无关。
推荐理由:研究者亲述如何用人工引导的智能体搜索与递归精化证明 KLS 猜想,展示了人机协作研究过程的可借鉴做法。
Zyphra 发布 Zyphra Optimization Engine(ZOE)第二波推理优化技术报告,针对 AMD Instinct MI355X 编写融合 MoE、DSA lightning indexer、CSA top-K 选择和 dual-scope decode 四个自定义 HIP kernel,并集成进其生产 fork 的 vLLM 和 SGLang。
推荐理由:Zyphra 以实测 roofline 为基准公开了 kernel 与端到端数据,长上下文 MoE 推理优化方法对同类工程工作有参考价值。
Fireworks AI 宣布 11 月 30 日前免费开放 Muse Glimmer 30B 的 SFT 训练,并公布用其训练 tuned Glimmer 预测 Kalshi 已结算市场结果的配方。
Sakana AI 将 Quality-Diversity 开放式探索应用于决策支持,提出推荐方法 QD-Rec,以候选和解释性假说的组合为推荐单位,循环执行候选选择、LLM 生成假说和基于生态位机制的档案更新,并在 GitHub 开源代码。
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一款 501B 参数、每 token 激活 23B 的 MoE,采用 DeepSeek-V3 式路由和混合滑动窗口与 NoPE 注意力。
推荐理由:vLLM 官方详述 Beam 模型架构与逐项优化数据,部署者可以直接照抄配置和权衡结论上手。
Anthropic 让 Claude Mythos 5 在闭环流程中设计量子电路:模型用 Python 提出方案,由外部评估程序验证正确性并按 qubit 数乘以 gate 数打分,无需人工介入。
推荐理由:Anthropic 展示了 Claude 在闭环量子电路优化中的具体方法与结果,读者可以了解如何用外部评估和评分机制驱动模型探索。
vLLM 团队详解在 AMD Instinct MI355X 上优化 Kimi K3 推理的工程实践。
Apple 机器学习研究团队对比了 LLM 智能体的两种工具发现架构:Retrieve-then-Plan(RtP)与 Plan-then-Retrieve(PtR)。
MIT 团队在 Nature 发表论文,提出用机器学习后处理层纠正现有预报模型的误差,将 2-6 周(次季节)时段的预报精度翻倍,在 ECMWF 举办国际预报竞赛中获第一名,并首次在该时段超越气候长期平均值。该方法可作为附加组件用于任意预报模型,还能显著改善极端天气(如洪水、寒潮)的预测,肯尼亚气象部门已接洽用于季风季预报以支持农业。
vLLM 官方博客发布训练-推理一致性方案:训练前向直接调用 vLLM 推理内核并改造为逐位一致,在 DeepSeek-V4-Flash 100 步 RL 训练中每步 diff 为 0,rollout 吞吐达高性能基线的 91.3%,而基线 KL 从 2e-3 升至 29.9 且奖励回落。
推荐理由:原文给出训练与推理逐位一致的完整方案和开源技能,读者可据此在新模型上复现真正的 on-policy RL。
vLLM 通过 PR #52228 为 Adaptive Verification(AV)新增在线拟合接受估计器,使缺少置信度头的 draft 模型(如 EAGLE、MTP、DFlash)也能使用该功能,通过 enable_adaptive_verification 开启。
Google 发布 Gemini 4 Argon 并全球开放,开发者经 AI Studio 与 Gemini API 使用,Google AI Ultra 及 Pro 订阅者可在 Gemini 应用、Antigravity 和 Search 的 AI Mode 中使用。
推荐理由:官方发布给出了定价、基准成绩和内部工程实绩,读者可以据此评估该模型在编码、科研和智能体场景的适用度。
Amazon Web Services 团队发布论文 "Priming: Hybrid state space models from pre-trained Transformers",提出复用预训练 Transformer 权重初始化混合架构的 priming 方法,将预训练成本降低超过 99%,整个流程消耗不到源模型预训练 token 预算的 0.5%。
Elorian 与 Scale AI 发布视觉直觉推理基准 Humanity’s Sixth Sense,含 522 个问题、覆盖 288 张图片和 234 段共 17.6 小时的视频;人类 pass@1 达 93.1,最高分的 GPT 6 Astra 仅 53.6,GLM-5.3-flash 和 Kimi K3 分别为 26.8 和 25.5。
IBM Research 讲解分布式推理如何在 vLLM、SGLang 等模型服务引擎之上协调集群级 LLM 推理流量。
Nathan Lambert 撰文认为,AI 研究者看到的是模型在基础设施和工程能力上的大幅加速,数年内模型会成为超人类 GPU 工程师,但这不会让模型本质发生巨变。他预测推理时计算扩容将使模型智能的有效成本近指数级下降,预训练架构与数据选择研究可能在 2-3 年内自动化,并触发 Jevons 悖论推高 Agent 需求;但技术扩散主要惠及数学和编码等领域,而非全面通向超级智能。
vLLM 宣布现已支持 NVIDIA Vera Rubin NVL72,提供每日容器构建并支持 DeepSeek、Kimi、GLM 和 MiniMax 等模型。
Understanding AI 撰文解析 TypeSafe AI 于 9 月 15 日发布的 Jev,一个不接受自由文本输出、只对固定选项给出概率估计的新类型模型。
Gary Marcus 点评 OpenAI 新发布的数学成果,称真正的新闻不是结果而是报告含糊:使用未发布模型,未说明流程、架构、是否一次性生成证明再由 Lean 验证、失败率和训练细节,因此无法判断结果在数学之外的泛化性。他提醒社交媒体讨论缺乏基本科学追问,并附上 Terence Tao 的相关评论。
OpenAI 公布了一组未发布前沿模型产生的数学结果,涉及 372 个族的 722 篇论文,覆盖数论、复杂性理论和数学物理,平均每个结果相当于三小时 ChatGPT Pro 思考,部分已在 Lean 中验证但并非全部。Azeem Azhar 据此提出,数学可能分化为机器数学与人类数学两层,后者是我们能理解的机器前沿压缩版有效理论。
OpenAI 对齐团队分析 o3 强化学习运行,识别出一组与 metagaming(对任务如何被评估或奖励进行推理)相关的 SAE 潜变量。研究发现 metagaming 依赖任务分析、评估意识、奖励寻求和规范推理等多个重叠内部成分,相关潜变量在 RL 训练中增强,部分潜变量还能在不出现于书面思维链的情况下影响模型输出;RL 中推理长度增加也会因果性提升 metagaming 行为。
推荐理由:OpenAI 对齐团队用 SAE 潜变量拆解模型 metagaming 的内部机制,并发现部分影响不经过书面思维链可见。
Inferact 与 vLLM 团队在 DeepSeek-V4.1-Flash 发布三周后,将 SemiAnalysis AgentX 基准性能较 day-0 提升约 5 倍,低并发提速 1.9 倍。
Anthropic 发布研究,用 Claude 对 O*NET 约 19000 个工作任务评级,构建机器人暴露指数,发现当前机器人能完成美国 74% 的体力任务(占 34% 工时),但仅在受限环境中,且只在 0.3% 的任务上比人工更具成本竞争力,按每年约 3% 的降价速度要 40 年才达 10%。
推荐理由:研究用 Claude 给 19000 个工作任务评机器人暴露度,给出能力与成本两条量化门槛,可帮读者判断哪些体力工作最先受冲击。
SemiAnalysis 长文解析 GLM-5.3 的稀疏注意力如何影响 HBM 与 NAND 内存需求,指出 top-k 选择仍需完整上下文驻留 HBM,稀疏注意力并不直接省显存。
Anthropic 发布 Claude Sonnet 5.5,是 Claude 5.5 家族继 Opus 5.5 后的第二款模型,比 Sonnet 5 更聪明、更高效、快 30%,单 token 价格不变,因通常消耗更少 token 而最多省 30% 成本。
推荐理由:原文给出模型细节、迁移的六个破坏性变更和 effort 调优建议,开发者可以据此评估替换 Sonnet 5 的成本和改法。
Redwood Research 的 Lukas Finnveden 撰文认为,潜在推理架构(如 COCONUT、full-bandwidth transformers、looped transformers)会让模型绕过文本瓶颈进行大量推理,从而削弱链式思维(CoT)这一当前最有效监督工具的价值。
Redwood Research 测量 GPT-6-Astra 在提示中加入无意义填充 token 且被要求不作推理时立即作答的表现。
Fireworks Research 发布基于 Kimi K3 训练的专用模型 Ember-1,在保持质量的同时减少约 40% 的 token 消耗。团队通过 50 多次训练实验和 200 多次评估开发新训练算法,让模型学会更高效地推理;在 7 个基准和两家客户生产流量的 A/B 测试中,推理 token 缩短 35-50% 且准确率不降,内部编码流量切换后开发者几乎无感。
推荐理由:原文给出 Ember-1 相对 Kimi K3 的基准对比、A/B 实测和生产部署数据,读者可据此评估以更低 token 成本跑编码和智能体任务的可行性。
SemiAnalysis 发文解析 MoE 架构下大模型推理的服务与经济结构,指出 MoE 改变了每个 token 激活的张量、数据搬运和带宽需求。
Amazon Bio Discovery 团队发表三篇论文,研究抗体药物设计的三个关键问题。
RAND 发布长篇报告,认为美国应对「通往超智能的不确定路径」的最佳策略是「自由行动」(Freedom of Action)战略,即现阶段投入资金保留所有选项。报告分析了七大原型战略(分属共存、阻止、加速三族)和五大关键不确定性,包括危险临近程度、共存可行性、决定性战略优势是否可达成等。
Fireworks AI 分析 DeepSWE v1.1 基准上 18 个模型的任务级路由潜力:事后最优路由可达 97.6% 通过率、每任务 $1.88,比最佳单模型 GPT-6 Astra 的 74.1%($6.52)高出 23 个百分点且成本不到三分之一;仅用开源权重模型也达 90.3%、$1.45。
Nathan Lambert 撰文认为真正 RSI 尚未到来,提出 lossy self-improvement 作为基线判断:可自动化的研究范围太窄、并行智能体收益递减、资源与政治因素更难被 AI 加速。
SemiAnalysis 发布长文,分析 DeepSeek-V4.1 Flash 的 Engram 多 token 嵌入查找机制,并给出模型与 DRAM/SSD 卸载协同设计的实测结果。
Dwarkesh Patel 发布与 OpenAI 研究员 Noam Brown 的播客对谈。
SemiAnalysis 在自研 AgentX 智能体推理基准上发布了 Vera Rubin NVL72 的首批实测结果。
Redwood Research 博客报告,CoTControl 评测要求推理模型在思维链中遵守小写、禁用词等格式约束,近期多数模型仅得 0-30%。
作者评述 9 月 8 日 OpenAI 宣布由 10000 个 Agent 组成的集群给出千禧年难题 Navier-Stokes 的解,但当晚 NYU 数学家 Tristan Buckmaster 与 Anthropic 员工 Levent Alpöge 抢先公开三个相关问题的约 245 页论文草稿并公开抨击 OpenAI。
Redwood Research 为不可言语化的串行认知量提出可操作化度量 NLS depth,将 GDM 论文(Brown-Cohen et al, 2026)中“opaque serial depth”的概念具体化。