跳到正文
  1. Google DeepMind77

    Google DeepMind 推出 AlphaProof Code 框架,形式化验证 Signal 密码协议实现代码

    Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,首次对 Signal 协议的实际实现代码完成数学化安全证明,此前该挑战被认为极为困难。

    推荐理由:原文给出框架工作流程、生成六百万行 Lean 和四周完成验证等细节,读者可据此判断形式化验证的可行路径。

  1. NVIDIA Blog69

    NVIDIA 在 CoRL 发布 GR00T 2 世界动作模型及 Isaac Lab 3.0、DexBench 等机器人仿真新技术

    NVIDIA 在 CoRL 上发布开源世界动作模型 GR00T 2,基于 NVIDIA Cosmos 训练,含 10 万小时人类第一视角数据,开箱即完成 50 项任务中的 40 项,每任务 1 次演示平均成功率 71%,5 次达 95%。

    推荐理由:官方博客一次性给出模型数据、仿真吞吐提升和新基准清单,可据此了解机器人仿真训练从运动控制到精细操作的进展。

  1. Preferred Networks:AI 研究与产品60

    PFN 开源发布翻译专用模型 PLaMo 3 Translate,支持 53 种语言离线运行

    Preferred Networks 于 11 月 5 日开源发布翻译专用大模型 PLaMo 3 Translate,提供 0.8B、2B、8B、31B 四种规格,已上架 Hugging Face。

    推荐理由:原文给出四个模型规格、53 种语言覆盖和离线运行能力,可帮助读者评估端侧翻译模型的选型与商用许可条件。

  1. vLLM 官方博客60

    Buoyant 开源 Kinference:面向 vLLM 与 Kubernetes 的推理控制平面

    Buoyant 团队发布开源项目 Kinference,作为 vLLM 和 Kubernetes 之上的推理控制平面,提供 token 限流、租户用量与成本追踪、负载均衡和推理策略。

    推荐理由:Buoyant 团队开源了自己打造的项目,读者可以结合其基准数据评估是否值得引入自建推理平台。

  1. Mistral AI77

    Mistral 开源 Mistral Large 4(Le Chonk)万亿参数多模态模型权重

    Mistral 发布 Mistral Large 4(Le Chonk)开放权重,为 1 万亿参数原生多模态模型,在欧洲基础设施上从零训练。

    推荐理由:官方放出完整权重与各基准数字,可据此比较该模型在编码、安全与成本效率上的定位,并判断自部署可行性。

  1. vLLM 官方博客67

    蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming

    蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming,支持 Turing 起的 NVIDIA GPU 及 T-Head Zhenwu 810E,用统一量化表示加 JIT 编译覆盖多种权重/激活组合和 MoE 工作负载。

    推荐理由:蚂蚁集团与 vLLM 社区开源的量化推理内核库,基准数据和端到端收益都给出细节,对部署与内核选型有直接参考价值。

  2. vLLM 官方博客61

    vLLM 提供 Recursive Flint 40B MoE 模型 day-0 支持

    vLLM 宣布从 day 0 起支持 Recursive 的 Flint 模型,NVFP4 和 BF16 两个 checkpoint 均可在单张 GPU 上运行,在一张 GB200 上 100K 上下文下单请求解码约 500 tokens/s。

    推荐理由:官方给出 Flint 的架构细节、NVFP4 与 BF16 双 checkpoint 和 day-0 部署方式,读者可以直接照着在 vLLM 上跑起来。

  1. Google Developers Blog64

    Google 发布 TorchTitan TPU:TorchTPU 原生接入 PyTorch 并给出 TPU 训练优化方案

    Google 发布 TorchTitan TPU 分支(github.com/google-pytorch/torchtitan),配合 TorchTPU 让 PyTorch 通过 torch.device("tpu") 原生使用 Cloud TPU,无需改写 JAX 或依赖旧 torch_xla。

    推荐理由:官方详细披露了 TorchTitan TPU 的关键组件与实测 MFU 数据,读者可据此评估自家模型迁移到 Cloud TPU 的可行路径。

  2. Google Developers Blog69

    Google 发布基于 TorchTPU 的 vLLM 与 SGLang 原生 PyTorch 推理引擎

    Google 在 PyTorch 相关发布中推出面向 TPU 的 vLLM-TorchTPU 和 SGLang-TorchTPU 推理引擎,分别与 Inferact、RadixArk 合作开发,基于让 TPU 成为原生 PyTorch 设备的 TorchTPU。

    推荐理由:官方披露 TorchTPU 架构设计与公开基准结果,读者可以据此评估在 TPU 上用 PyTorch 生态做推理的可行路径。

  1. vLLM 官方博客63

    vLLM 从 Day 0 支持 Reflection Beam 501B MoE 模型

    vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一款 501B 参数、每 token 激活 23B 的 MoE,采用 DeepSeek-V3 式路由和混合滑动窗口与 NoPE 注意力。

    推荐理由:vLLM 官方详述 Beam 模型架构与逐项优化数据,部署者可以直接照抄配置和权衡结论上手。

  1. Mistral AI62

    Mistral 发布时间序列基础模型 Timestral,最大 209M 参数在 GIFT-Eval、TIME 和 fev-bench 排名第一

    Mistral 发布其首个时间序列基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四种规格。最大 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三个公开基准的预训练零样本模型中五项指标全部排名第一,28M 模型在 GIFT-Eval 和 TIME 上击败约四倍大小的 Chronos-2。

    推荐理由:Mistral 发布首个时间序列基础模型系列,正文给出三个基准的成绩、CPU 推理延迟和可微调部署路径,读者可据此评估其落地方式。

  1. vLLM 官方博客60

    vLLM 发布训练-推理逐位一致方案,DeepSeek-V4-Flash RL 训练 diff 降为 0

    vLLM 官方博客发布训练-推理一致性方案:训练前向直接调用 vLLM 推理内核并改造为逐位一致,在 DeepSeek-V4-Flash 100 步 RL 训练中每步 diff 为 0,rollout 吞吐达高性能基线的 91.3%,而基线 KL 从 2e-3 升至 29.9 且奖励回落。

    推荐理由:原文给出训练与推理逐位一致的完整方案和开源技能,读者可据此在新模型上复现真正的 on-policy RL。

  1. Mistral AI74

    Mistral 发布 Mistral Large 4 公开预览:1 万亿参数多模态开源权重模型

    Mistral 发布 Mistral Large 4(ML4,昵称 le Chonk)公开预览,1 万亿参数、520 亿激活参数的原生多模态模型,预览 API 已在 Mistral Studio 开放,权重将于本月底发布。

    推荐理由:官方给出具体基准数字、开放权重时间表和欧洲自建训练基础设施,读者可据此判断它在开源模型中的位置。

  1. vLLM 官方博客76

    vllm-metal v0.28.0 发布:在 Apple Silicon 上支持并发推理服务

    vLLM 官方发布 vllm-metal 首个正式版 v0.28.0,将 vLLM 的调度器、分页 KV cache 和 OpenAI 兼容服务引入 Apple Silicon,由 MLX 和 Metal 负责执行。

    推荐理由:原文给出架构细节、与 llama.cpp 和 oMLX 的并发基准数据,以及 Homebrew 安装入口,读者可以据此评估 Apple Silicon 上的服务化方案。

  1. Browser Use61

    Browser Use 如何构建可扩展的长程 RL 环境并开源 200 个任务

    Browser Use 公开其从生产环境浏览器智能体流量构建长程强化学习环境的方法,并开源 200 个带评分细则的任务,托管在 github.com/browser-use/benchmark。

    推荐理由:原文完整披露了从真实用户流量构建可扩展长程 RL 环境和评分细则的流程,方法可迁移,且开源了 200 个任务。

  1. Berkeley AI Research63

    研究者用 K-Search 将 CUDA kernel 优化经验迁移到 Apple Silicon 的 MLX

    IBM Research 基于加州大学伯克利 Sky Lab 的 K-Search 演进式 kernel 搜索框架,为其新增 MLX 后端和结构化 CUDA 到 MLX 翻译层,把概念映射表、MLX 专有模式和可复用断言作为上下文供进化搜索使用。

    推荐理由:原文给出可复现的 CUDA 到 MLX 翻译层做法与分项数据,读者可据此评估跨平台 kernel 迁移的方法是否适用。

  1. Zyphra Research60

    Zyphra 发布 ZAYA1-74B-Preview,在 AMD 上完成大规模预训练

    Zyphra 发布 ZAYA1-74B-Preview,这是一个总参数 74B、激活 4B 的 MoE 预 RL 推理基座,未做 RL 后训练或指令微调,权重以 Apache 2.0 许可在 Hugging Face 开放。

    推荐理由:官方发布给出了架构、训练数据规模和 pass@4 对比细节,读者可以据此评估这个预 RL 基座在 AMD 上扩展预训练的实际水准。

  1. Zyphra Research64

    Zyphra 发布 AMD 训练的 MoE 模型 ZAYA1-8B

    Zyphra 发布 ZAYA1-8B,首个在 AMD Instinct MI300 集群上完成预训练、中期训练和微调的 MoE 模型,活跃参数不足 10 亿,在数学、编码和推理基准上可匹敌或超过大得多的开源模型,如 Mistral-Small-4-119B。

    推荐理由:官方详解了架构、AMD 训练栈和 Markovian RSA 推理方法,读者可据此评估小参数 MoE 模型的实际推理能力。