vLLM 实现 MiniMax-M3.1-Flash Day-0 支持
vLLM 在发布当天为 MiniMax-M3 系列新模型 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。
推荐理由:原文给出了多平台内核优化细节和 AgentX 实测吞吐数据,读者可以据此评估该模型在不同 GPU 上的部署性价比。
vLLM 在发布当天为 MiniMax-M3 系列新模型 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。
推荐理由:原文给出了多平台内核优化细节和 AgentX 实测吞吐数据,读者可以据此评估该模型在不同 GPU 上的部署性价比。
vLLM 团队展示如何在 16 张 H200(一个 prefill 节点加一个 decode 节点)上优化 GLM-5.3 的长智能体上下文推理。
PyTorch Conference North America 2026 于 10 月 20–21 日在 San Jose 举行,3500 多人参会,集中展示 PyTorch、vLLM、DeepSpeed、Ray、Helion 等基金会项目。
MIT CSAIL 与天津大学研究人员推出 X-Hinges 设计软件,可将日常物品 3D 打印为能感知并响应人类动作的自感知设备。该工具自动在设计中嵌入两种不同材料,分别用于传感器和导线,避免信号干扰,并支持最多三个运动轴(压缩、上下、左右),突破了以往方法只能单轴运动的限制。
Ai2 发布卫星嵌入模型 OlmoEarth v1.3,读取 Sentinel-1、Sentinel-2 和 Landsat 时间序列,为每个 10 米像素生成 128 维向量,并在 27 项评测中的 20 项上超过 AlphaEarth Foundations 和 Tessera v2。
Anthropic 邀请生命科学领域的研究者申请与其合作开展特别项目,方向涵盖因果人类生物学、结构与计算分子生物学、药物化学、药物发现和临床科学。入选的客座研究员将在 8–12 周内与 Anthropic 研究人员直接合作,模型和 harness 免费提供,成果将发布并开源数据与代码,申请者保留数据及后续独立研究权利。申请窗口约开放 14 天,申请材料只要求公开信息。
Anthropic 宣布把 Agent Skills 开放标准捐赠给 Linux 基金会旗下的 Agentic AI Foundation(AAIF),包括名称、logo、GitHub 组织和 agentskills.io 域名。
推荐理由:Anthropic 官方宣布 Agent Skills 标准捐入 Linux 基金会旗下 AAIF,读者可以借此了解该开放标准的归属变化与后续治理方向。
Sierra 推出 𝜏-i18n,将 𝜏-Voice 语音智能体评测扩展到西班牙语、巴西葡萄牙语、印地语、韩语和普通话五种语言,任务、策略与成功标准保持不变以便跨语言比较。
PyTorch 团队发布 TorchTitan 年度更新,新增 Muse Spark Open、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3、DeepSeek-V4 等模型的全训练栈支持,并推出 RL 框架 TitanRL,训练与推理共用同一代码库。
中国商务部和科技部 10 月 16 日发布技术出口限制目录增补草案,首次覆盖先进大模型、AI 智能体和大规模算力集群,公开征求意见至 11 月 15 日,期间相关出口需临时登记。
推荐理由:作者逐条拆解中国 AI 出口管制草案的阈值与豁免条款,澄清了公开权重模型不在管制范围这一常见误读。
ChinaTalk 作者用三天细读中国商务部与科技部于 10 月 16 日发布的 48 号公告草案,该草案拟对禁止出口限制出口技术目录新增 40 项技术并立即启动出口前临时登记,其中 14 项为禁止出口、26 项为需许可的限制出口。
推荐理由:作者逐条拆解商务部新草案的阈值与豁免,读者可以据此判断开放权重路线会否被收紧以及哪些环节先受影响。
IBM 发布插件库 vLLM-Hook MIA(model internals aperture),面向 vLLM 推理引擎,让开发者在不显著降低性能的情况下于运行时观察和干预模型生成过程,例如拒绝恶意提示词、标记幻觉或调整回复。
Nathan Lambert 在 Interconnects 最新一期开源成果盘点中梳理了中美对开放权重模型的新监管动向:中国商务部提议前沿模型国际共享需预先审批,美国国土安全部则限制 DeepSeek 成为联邦采购供应商。
llm-d 项目贡献者在 PyTorch Conference North America 发布 llm-d 1.0,一个 Kubernetes 原生的分布式推理服务栈,可部署任意模型、任意加速器、任意云,由 Red Hat、IBM 和 Google 担任主导维护者。
Ai2 发布 FairStress 基准,用 300 个双候选决策场景、扩展后超过 1300 万测试用例,测量大模型在招聘、医疗、贷款等决策中除最终选择之外的公平性。测试发现模型在对抗性前缀挑战下更易放弃有利于多数群体的正确选择,平均差距达 6.9 至 9.3 个百分点;对 Olmo 3 训练数据的审计显示少数群体获得更多保护性表述。反事实链式推理是少数能缩小差距且保持准确率的干预方法。
Inferact 与 Google 团队发布 vLLM TorchTPU(vllm-torchtpu),一个基于 Google TorchTPU 栈的 vLLM 后端插件,复用 vLLM 现有模型代码,多数现有模型无需改动即可在 TPU 上服务,CLI、OpenAI 兼容服务器、调度器和 KV cache 管理器均保持不变。
Meta 的开源权重模型 Muse Spark Open 于 Fireworks 提供 Day-0 无服务器服务,为 816B 参数 MoE 模型,每 token 激活 42B 参数,上下文窗口 1M token,面向长程编码与智能体任务。
推荐理由:原文汇总了多个第三方基准的实测分数,读者可以据此评估这个开源权重模型在法律、金融等专业场景的可用性。
Google 宣布 Coral NPU 边缘 AI 开放标准达成三大里程碑:新增 Matrix Execution Unit 完成 32 位架构,可配置至 1 TOPS、目标推理平均功耗 10mW。
vLLM 详解如何用异步准备与 NIXL EP 让 Elastic Expert Parallelism 重配置实现近零停机,DeepSeek V4 Pro 从 16 到 20 GB200 GPU 的停机时间从 100 秒降至 0.82 秒,缩回 16 GPU 为 1.96 秒。
Nathan Lambert 分析 Meta 发布 Muse Spark Open 后西方开源模型重返前沿:该模型为 816B 总参数/42B 激活、1M token 上下文、原生多模态,性能高于 GLM 5.2、接近 DeepSeek V4.1 Flash,但仍落后 GLM 5.3 与 Kimi K3,中美最佳开源模型差距约缩小一半。
ChinaTalk 播客访谈蚂蚁 Ling 大模型产品运营负责人 Richard Bian,他认为 AGI 不可避免,并阐述开源是产品策略而非单纯赠送。
ComfyUI 博客介绍了 Black Forest Labs FLUX 3 家族中紧凑型开源权重模型 FLUX 3 Image Klein,共 5.6B 参数,支持原生 4K 生成、多参考图生成与编辑、bounding boxes 构图、文字渲染编辑和参考图风格迁移。
推荐理由:原文给出 FLUX 3 Image Klein 的参数量、开源权重获取方式和消费级 GPU 上的量化加速数据,可据此评估本地图像生成工作流。
vLLM 与 Meta Superintelligence Labs 合作,为开源权重稀疏 MoE 模型 Muse Spark Open 提供 Day 0 支持。
推荐理由:原文给出 816B MoE 架构细节、量化格式、DSpark 投机解码与 LoRA RL 配置,读者可以直接照此部署和调优。
MIT 团队在 Nature 发表论文,提出用机器学习后处理层纠正现有预报模型的误差,将 2-6 周(次季节)时段的预报精度翻倍,在 ECMWF 举办国际预报竞赛中获第一名,并首次在该时段超越气候长期平均值。该方法可作为附加组件用于任意预报模型,还能显著改善极端天气(如洪水、寒潮)的预测,肯尼亚气象部门已接洽用于季风季预报以支持农业。
Ai2 发布 HiRO-ACEv2,其系统可用约为 X-SHiELD 1/300 的成本生成全球 3 公里分辨率气候数据。新降尺度模型 HiROv2 可同时预测多个高分辨率要素,对百万分之一量级的罕见极端雨、风、压事件,统计误差可控制在 3% 以内,并能估算未见过的热带气旋总能量。
LangChain 发布 Deep Agents deploy beta,一条命令即可将开源、模型无关的 Deep Agents harness 以生产就绪方式部署,支持 OpenAI、Google、Anthropic、Ollama 等任意模型服务商及多种 sandbox。
推荐理由:原文把 agent harness 与记忆绑定的锁定期讲清楚了,读者可以据此权衡开源 harness 与封闭托管平台的取舍。
LangChain 重构 MCP 支持,将 MCP 集成移入主包 langchain.mcp,改为基于 FastMCP 构建,需 langchain[mcp]>=1.4.0。
推荐理由:原文解释了新版 MCP 无状态协议带来的缓存与 elicitation 变化,以及 LangChain 适配方式,可帮助开发者评估是否迁移。
Amazon Web Services 团队发布论文 "Priming: Hybrid state space models from pre-trained Transformers",提出复用预训练 Transformer 权重初始化混合架构的 priming 方法,将预训练成本降低超过 99%,整个流程消耗不到源模型预训练 token 预算的 0.5%。
Elorian 与 Scale AI 发布视觉直觉推理基准 Humanity’s Sixth Sense,含 522 个问题、覆盖 288 张图片和 234 段共 17.6 小时的视频;人类 pass@1 达 93.1,最高分的 GPT 6 Astra 仅 53.6,GLM-5.3-flash 和 Kimi K3 分别为 26.8 和 25.5。
Inferact 与 vLLM 团队在 DeepSeek-V4.1-Flash 发布三周后,将 SemiAnalysis AgentX 基准性能较 day-0 提升约 5 倍,低并发提速 1.9 倍。
Nathan Lambert 撰文批评当前围绕开源权重模型网络风险的讨论失衡,认为 Anthropic 关于 GLM-5.3 攻击性网络能力的报告回避了封禁开源模型的代价等问题。他列出两种可能解释,称公开记录的网络攻击多涉及闭源模型,若封禁开源模型而闭源模型继续进步,可能扩大攻防差距;并分析中国公司按自身风险评估发布模型、安全评估成本高昂等现实,认为渲染恐惧的预测大概率会被证伪。
腾讯 AI-Infra-Guard(AIG)已集成进开源安全扫描工具 ClawScan,ClawHub 上所有上传的技能和插件都会经其审查。在 SkillTrustBench 的 556 个固定测试用例上,ClawScan 匹配 86.9% 的基准标签,恶意用例正确分类率达 98.6%。双方还将分歧案例与误报回传给腾讯,通过回归测试持续改进 AIG 检测规则和审查流程。
一位物理学家发布长文,介绍其开源 harness BootLoops:在过去三个月里,他用 Claude Code 在 Google Cloud 虚拟机上并行推进 36 篇手稿、覆盖 18 个领域。
推荐理由:作者以第一手经历复盘用 BootLoops 让 Claude 跨 18 个领域做科研的过程,提炼了问题筛选方法和模型失效模式应对经验。
OpenClaw 发布开源、供应商中立的 OpenClaw Enterprise(OCE),用于在敏感环境中管理持久化 Agent,当前可用于内部试点工作负载,1.0 版计划今年晚些时候发布。
推荐理由:原文给出了企业级智能体平台的安全边界、可替换组件和自托管方式,适合评估敏感环境中部署持久 Agent 的可行路径。
OpenClaw 官方博客介绍 Microsoft 将新版 Copilot 体验中的个人智能体 Autopilot(即此前发布的 Microsoft Scout)构建在 OpenClaw 之上,由 Omar Shahine 团队与 OpenClaw Foundation 合作打造企业级运行时,私有预览将于本月底向首批客户开放。
ComfyUI 博客宣布 MiniMax H3 视频 VAE 编码提速约 2.2 倍、解码提速 1.4-2.7 倍,1344x768、129 帧的编解码往返从 24.3 秒降到 12.7 秒。
Nathan Lambert 发布面向国会的开源模型现状陈述,指出中国实验室自2025年4月起在开源权重模型领域领先,GLM-5.3 和 Kimi K3 在 AAII 评测上分别达45和44分,领先美国最佳模型(26分)。
LiveKit 博客发布指南,从架构、采用度、开发体验和生产就绪度对比 LiveKit Agents 与 Pipecat 两大开源语音视频 Agent 框架。核心差异是 LiveKit Agents 构建在高抽象的会话模型上并绑定自家 WebRTC/SIP 服务器,Pipecat 则让开发者自选 transport 并逐级组装 pipeline,适合非对话式或并行分支场景。
ComfyUI 宣布原生支持阿里千问团队的 Qwen-Image-2.1 图像模型,权重开放,7B 参数基于优化 MMDiT 架构。模型支持带真实 alpha 通道的 RGBA 输出、原生 2048×2048 直接生成(非放大)、最多 10 张参考图输入,生成与编辑共用单一 checkpoint,可在消费级显卡上快速推理。
推荐理由:原文说明了 Qwen-Image-2.1 在 ComfyUI 的原生支持细节,含 RGBA 输出和上手步骤,读者可判断是否迁移现有图像工作流。
东北大学硕士生 Soham Padia 基于 Olmo 3-32B 开发了衡量文本引导模型产生更亲社会反应的评测,并将其做成众包游戏 Steering Arena。约 600 次提交中,前 36 名全为人类不可读的 token 串,最佳英文语句仅列第 37 名、得分比第一名低约 2.7 倍。Olmo 3 的开放数据和后训练文档让研究者能检视模型内部信号,也表明指标一旦公开就会成为被优化的目标。