AWS 开源 UAEF 智能体评估框架,用适配器统一跨框架的闭环评估
AWS 在机器学习博客介绍开源的 Universal Agent Evaluation Framework(UAEF),一个框架无关的 AI 智能体闭环评估系统。
AWS 在机器学习博客介绍开源的 Universal Agent Evaluation Framework(UAEF),一个框架无关的 AI 智能体闭环评估系统。
Meta 工程博客详解其构建的 Triton 低层扩展 TLX,通过显式 warp 组编排补足 CUDA 细粒度控制与 Triton 块级编程模型之间的抽象缺口。
LiveKit 发布 ROS 2 Portal,一个独立 ROS 2 节点,把 ROS 图接入 LiveKit 房间,通过 WebRTC 在 ROS 与非 ROS 参与者之间转发话题、服务调用和视频,无需跨网暴露 DDS 或自建传输层。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,首次对 Signal 协议的实际实现代码完成数学化安全证明,此前该挑战被认为极为困难。
推荐理由:原文给出框架工作流程、生成六百万行 Lean 和四周完成验证等细节,读者可据此判断形式化验证的可行路径。
Hugging Face 在 transformers 中加入 DecisionPipeline、AutoModelForDecision 与 DecisionConfig,并推出 /v1/systemone 服务端点,llama.cpp 也支持同一 API。
推荐理由:官方博客给出 decision pipeline、/v1/systemone 端点和训练示例,读者可以直接照代码把决策模型接入现有分类与路由工作流。
LangChain 发布开源实验性提示词优化库 Promptim,基于 LangSmith 数据集与评估器运行优化循环,自动迭代提示词直到指标超越基线。它聚焦优化单个提示词,通过 Annotation Queues 保留人工反馈环节,与 DSPy 的整套系统优化定位不同,可通过 pip install promptim 安装。
IBM 与 Red Hat 合作,向开源 AI 与云原生代理服务器 Praxis 贡献了 Praxis Policy Engine(PPE),Praxis 已将 PPE 作为其面向普通流量和 AI 流量的策略过滤器,并进入 CNCF Sandbox。
NVIDIA 在 CoRL 上发布开源世界动作模型 GR00T 2,基于 NVIDIA Cosmos 训练,含 10 万小时人类第一视角数据,开箱即完成 50 项任务中的 40 项,每任务 1 次演示平均成功率 71%,5 次达 95%。
推荐理由:官方博客一次性给出模型数据、仿真吞吐提升和新基准清单,可据此了解机器人仿真训练从运动控制到精细操作的进展。
Hugging Face 提出 HOPE(Higher-Order Pruning of Experts),一种针对 MoE 大模型的二阶专家剪枝方法,将专家间的成对交互纳入剪枝决策,弥补一阶方法只独立打分的不足。
Ai2 发布开源模拟框架 ToyBlocks,作为首个 FoundationWorld,围绕机械臂与桌面积木自动生成任务和演示数据,并配套训练与评测工具。框架在单张 GPU 上可并行生成数百个规划方案,最高达 24 倍实时性能,首批发布 85,336 条长程演示、约 1,600 小时数据和 1.44 亿帧。
VeRL-Omni 团队发布 v0.3.0,将异步执行扩展到更多多模态 RL 工作负载,V1 训练器成为默认,并扩展图像、视频、音频和多模态理解的后训练覆盖。
Zyphra 发布 ZYFA,这是面向 AMD MI355X(CDNA4)的因果前向注意力 BF16/FP8 内核,并分析 FP8 attention 在该硬件上的三项瓶颈。
Preferred Networks 于 11 月 5 日开源发布翻译专用大模型 PLaMo 3 Translate,提供 0.8B、2B、8B、31B 四种规格,已上架 Hugging Face。
推荐理由:原文给出四个模型规格、53 种语言覆盖和离线运行能力,可帮助读者评估端侧翻译模型的选型与商用许可条件。
Gradium 团队在 Phonon 开放两周后复盘这次发布,介绍这款在设备本地运行、无需网络和服务器的小型 TTS 模型。
Buoyant 团队发布开源项目 Kinference,作为 vLLM 和 Kubernetes 之上的推理控制平面,提供 token 限流、租户用量与成本追踪、负载均衡和推理策略。
推荐理由:Buoyant 团队开源了自己打造的项目,读者可以结合其基准数据评估是否值得引入自建推理平台。
Ray 宣布成立面向硬件加速器的特别兴趣小组(SIG),旨在联合硬件厂商、Ray 贡献者和应用开发者,制定厂商中立的加速器支持路线图。目前 Ray 已支持十余种加速器,涵盖 NVIDIA 与 AMD GPU、TPU、Trainium、Gaudi 等。初期路线图聚焦三个方向:开发与测试基础设施、硬件感知调度能力,以及网络/传输。
Anthropic 发布开源可验证推理原型 FlashProve,用 zkSNARK 证明模型响应确实来自所声明的权重且不泄露权重。
推荐理由:原文给出 zkSNARK 可验证推理的实测性能和开源代码,读者可以据此评估零知识推理证明距实用还有多远。
Mistral 发布 Mistral Large 4(Le Chonk)开放权重,为 1 万亿参数原生多模态模型,在欧洲基础设施上从零训练。
推荐理由:官方放出完整权重与各基准数字,可据此比较该模型在编码、安全与成本效率上的定位,并判断自部署可行性。
PyTorch 官方发布 PyTorch 2.15,重写的 NCCL 后端成为所有 nccl 进程组的默认选项,附集合通信挂起时落盘的 flight recorder,并提供 TORCH_DIST_USE_NCCL2=0 或 nccl-legacy 回滚路径。
IBM 与 Kaggle 合作推出 ScarfBench 持续更新的公开排行榜,评估编码智能体能否将企业 Java 应用在 Jakarta EE、Quarkus、Spring 框架间迁移并保持行为正确。
Meta 在 2026 OCP 全球峰会发布多项 AI 网络创新并公开全部演讲视频与幻灯片。
PyTorch 团队发布 TorchTitan 年度更新,新增 Muse Spark Open、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3、DeepSeek-V4 等模型的全训练栈支持,并推出 RL 框架 TitanRL,训练与推理共用同一代码库。
蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming,支持 Turing 起的 NVIDIA GPU 及 T-Head Zhenwu 810E,用统一量化表示加 JIT 编译覆盖多种权重/激活组合和 MoE 工作负载。
推荐理由:蚂蚁集团与 vLLM 社区开源的量化推理内核库,基准数据和端到端收益都给出细节,对部署与内核选型有直接参考价值。
vLLM 宣布从 day 0 起支持 Recursive 的 Flint 模型,NVFP4 和 BF16 两个 checkpoint 均可在单张 GPU 上运行,在一张 GB200 上 100K 上下文下单请求解码约 500 tokens/s。
推荐理由:官方给出 Flint 的架构细节、NVFP4 与 BF16 双 checkpoint 和 day-0 部署方式,读者可以直接照着在 vLLM 上跑起来。
Google 发布 TorchTitan TPU 分支(github.com/google-pytorch/torchtitan),配合 TorchTPU 让 PyTorch 通过 torch.device("tpu") 原生使用 Cloud TPU,无需改写 JAX 或依赖旧 torch_xla。
推荐理由:官方详细披露了 TorchTitan TPU 的关键组件与实测 MFU 数据,读者可据此评估自家模型迁移到 Cloud TPU 的可行路径。
Google 在 PyTorch 相关发布中推出面向 TPU 的 vLLM-TorchTPU 和 SGLang-TorchTPU 推理引擎,分别与 Inferact、RadixArk 合作开发,基于让 TPU 成为原生 PyTorch 设备的 TorchTPU。
推荐理由:官方披露 TorchTPU 架构设计与公开基准结果,读者可以据此评估在 TPU 上用 PyTorch 生态做推理的可行路径。
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一款 501B 参数、每 token 激活 23B 的 MoE,采用 DeepSeek-V3 式路由和混合滑动窗口与 NoPE 注意力。
推荐理由:vLLM 官方详述 Beam 模型架构与逐项优化数据,部署者可以直接照抄配置和权衡结论上手。
Mistral 发布其首个时间序列基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四种规格。最大 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三个公开基准的预训练零样本模型中五项指标全部排名第一,28M 模型在 GIFT-Eval 和 TIME 上击败约四倍大小的 Chronos-2。
推荐理由:Mistral 发布首个时间序列基础模型系列,正文给出三个基准的成绩、CPU 推理延迟和可微调部署路径,读者可据此评估其落地方式。
vLLM 官方博客发布训练-推理一致性方案:训练前向直接调用 vLLM 推理内核并改造为逐位一致,在 DeepSeek-V4-Flash 100 步 RL 训练中每步 diff 为 0,rollout 吞吐达高性能基线的 91.3%,而基线 KL 从 2e-3 升至 29.9 且奖励回落。
推荐理由:原文给出训练与推理逐位一致的完整方案和开源技能,读者可据此在新模型上复现真正的 on-policy RL。
vLLM-Omni 用 torchada 让 Sand AI 的 MAGI-2 Preview(114B 总参数、每 token 约 6B 激活的音视频 MoE DiT)在摩尔线程 MTT S5000 上原生运行,仅需少量平台级改动,CUDA 版 Triton kernel 可直接复用。
Sakana AI 与 UC Berkeley 合作发表论文,提出多智能体自我监督方法 MASS:一个共享模型通过团队虚拟 subagent 解决任务、搜索更优多智能体工作流,并将最佳团队的执行蒸馏回共享模型。
Comfy 博客介绍如何把 FastVideo 的 FastH3 V2 检查点优化到在单张 RTX 5090(32GB 显存)上实时生成 448×256 的 15 秒视频。
Mistral 发布 Mistral Large 4(ML4,昵称 le Chonk)公开预览,1 万亿参数、520 亿激活参数的原生多模态模型,预览 API 已在 Mistral Studio 开放,权重将于本月底发布。
推荐理由:官方给出具体基准数字、开放权重时间表和欧洲自建训练基础设施,读者可据此判断它在开源模型中的位置。
GitHub 发布 AI 代码审查离线基准 ReviewBench,语料基于 103.9M 真实 pull request 的分布,含 19 种语言的 219 个公开 PR,数据集、评判标准和 runner 全部公开。
vLLM 官方发布 vllm-metal 首个正式版 v0.28.0,将 vLLM 的调度器、分页 KV cache 和 OpenAI 兼容服务引入 Apple Silicon,由 MLX 和 Metal 负责执行。
推荐理由:原文给出架构细节、与 llama.cpp 和 oMLX 的并发基准数据,以及 Homebrew 安装入口,读者可以据此评估 Apple Silicon 上的服务化方案。
Lovable 宣布逐步用 Rust 编写的预览引擎 OJ 替换 Vite 驱动预览,并将仓库开源到 github.com/lovablelabs/oj。OJ 是单一 Rust 二进制,读取现有 vite.config.ts 并通过兼容桥运行真实 Vite 插件,内置 React Fast Refresh 与 TanStack Start 支持。
Preferred Networks 发布基于 Rust 的 Optuna 实现 Rustuna,并同步推出 Optuna v5.0。Rustuna 在内部基准中最高比 Optuna 快 1000 倍,Matlantis CSP 的替换测试中 10 万次 trial 的内存消耗降低约 50%,完整集成开发中。
Browser Use 公开其从生产环境浏览器智能体流量构建长程强化学习环境的方法,并开源 200 个带评分细则的任务,托管在 github.com/browser-use/benchmark。
推荐理由:原文完整披露了从真实用户流量构建可扩展长程 RL 环境和评分细则的流程,方法可迁移,且开源了 200 个任务。
IBM Research 基于加州大学伯克利 Sky Lab 的 K-Search 演进式 kernel 搜索框架,为其新增 MLX 后端和结构化 CUDA 到 MLX 翻译层,把概念映射表、MLX 专有模式和可复用断言作为上下文供进化搜索使用。
推荐理由:原文给出可复现的 CUDA 到 MLX 翻译层做法与分项数据,读者可据此评估跨平台 kernel 迁移的方法是否适用。
Together AI 推出开源智能体推理调度层 ThunderAgent,将每个智能体工作流抽象为可调度的 program,通过暂停低优先级工作流和全局等待队列缓解 KV cache thrashing 并均衡多节点负载。