Mistral 开源 Mistral Large 4(Le Chonk)万亿参数多模态模型权重
Mistral 发布 Mistral Large 4(Le Chonk)开放权重,为 1 万亿参数原生多模态模型,在欧洲基础设施上从零训练。
推荐理由:官方放出完整权重与各基准数字,可据此比较该模型在编码、安全与成本效率上的定位,并判断自部署可行性。
Mistral 发布 Mistral Large 4(Le Chonk)开放权重,为 1 万亿参数原生多模态模型,在欧洲基础设施上从零训练。
推荐理由:官方放出完整权重与各基准数字,可据此比较该模型在编码、安全与成本效率上的定位,并判断自部署可行性。
PyTorch 官方发布 PyTorch 2.15,重写的 NCCL 后端成为所有 nccl 进程组的默认选项,附集合通信挂起时落盘的 flight recorder,并提供 TORCH_DIST_USE_NCCL2=0 或 nccl-legacy 回滚路径。
IBM 与 Kaggle 合作推出 ScarfBench 持续更新的公开排行榜,评估编码智能体能否将企业 Java 应用在 Jakarta EE、Quarkus、Spring 框架间迁移并保持行为正确。
Meta 在 2026 OCP 全球峰会发布多项 AI 网络创新并公开全部演讲视频与幻灯片。
PyTorch 团队发布 TorchTitan 年度更新,新增 Muse Spark Open、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3、DeepSeek-V4 等模型的全训练栈支持,并推出 RL 框架 TitanRL,训练与推理共用同一代码库。
蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming,支持 Turing 起的 NVIDIA GPU 及 T-Head Zhenwu 810E,用统一量化表示加 JIT 编译覆盖多种权重/激活组合和 MoE 工作负载。
推荐理由:蚂蚁集团与 vLLM 社区开源的量化推理内核库,基准数据和端到端收益都给出细节,对部署与内核选型有直接参考价值。
vLLM 宣布从 day 0 起支持 Recursive 的 Flint 模型,NVFP4 和 BF16 两个 checkpoint 均可在单张 GPU 上运行,在一张 GB200 上 100K 上下文下单请求解码约 500 tokens/s。
推荐理由:官方给出 Flint 的架构细节、NVFP4 与 BF16 双 checkpoint 和 day-0 部署方式,读者可以直接照着在 vLLM 上跑起来。
Google 发布 TorchTitan TPU 分支(github.com/google-pytorch/torchtitan),配合 TorchTPU 让 PyTorch 通过 torch.device("tpu") 原生使用 Cloud TPU,无需改写 JAX 或依赖旧 torch_xla。
推荐理由:官方详细披露了 TorchTitan TPU 的关键组件与实测 MFU 数据,读者可据此评估自家模型迁移到 Cloud TPU 的可行路径。
Google 在 PyTorch 相关发布中推出面向 TPU 的 vLLM-TorchTPU 和 SGLang-TorchTPU 推理引擎,分别与 Inferact、RadixArk 合作开发,基于让 TPU 成为原生 PyTorch 设备的 TorchTPU。
推荐理由:官方披露 TorchTPU 架构设计与公开基准结果,读者可以据此评估在 TPU 上用 PyTorch 生态做推理的可行路径。
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一款 501B 参数、每 token 激活 23B 的 MoE,采用 DeepSeek-V3 式路由和混合滑动窗口与 NoPE 注意力。
推荐理由:vLLM 官方详述 Beam 模型架构与逐项优化数据,部署者可以直接照抄配置和权衡结论上手。
Mistral 发布其首个时间序列基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四种规格。最大 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三个公开基准的预训练零样本模型中五项指标全部排名第一,28M 模型在 GIFT-Eval 和 TIME 上击败约四倍大小的 Chronos-2。
推荐理由:Mistral 发布首个时间序列基础模型系列,正文给出三个基准的成绩、CPU 推理延迟和可微调部署路径,读者可据此评估其落地方式。
vLLM 官方博客发布训练-推理一致性方案:训练前向直接调用 vLLM 推理内核并改造为逐位一致,在 DeepSeek-V4-Flash 100 步 RL 训练中每步 diff 为 0,rollout 吞吐达高性能基线的 91.3%,而基线 KL 从 2e-3 升至 29.9 且奖励回落。
推荐理由:原文给出训练与推理逐位一致的完整方案和开源技能,读者可据此在新模型上复现真正的 on-policy RL。
vLLM-Omni 用 torchada 让 Sand AI 的 MAGI-2 Preview(114B 总参数、每 token 约 6B 激活的音视频 MoE DiT)在摩尔线程 MTT S5000 上原生运行,仅需少量平台级改动,CUDA 版 Triton kernel 可直接复用。
Sakana AI 与 UC Berkeley 合作发表论文,提出多智能体自我监督方法 MASS:一个共享模型通过团队虚拟 subagent 解决任务、搜索更优多智能体工作流,并将最佳团队的执行蒸馏回共享模型。
Comfy 博客介绍如何把 FastVideo 的 FastH3 V2 检查点优化到在单张 RTX 5090(32GB 显存)上实时生成 448×256 的 15 秒视频。
Ai2 宣布其字节级语言模型 Bolmo 的研究发表于 Nature,并在 Hugging Face 上发布新检查点。文中介绍了 byteifying 方法,可将已训练好的子词模型以较短的额外训练转换为字节级模型,此前已基于 Olmo 模型做出 Bolmo 1B 和 7B。
Mistral 发布 Mistral Large 4(ML4,昵称 le Chonk)公开预览,1 万亿参数、520 亿激活参数的原生多模态模型,预览 API 已在 Mistral Studio 开放,权重将于本月底发布。
推荐理由:官方给出具体基准数字、开放权重时间表和欧洲自建训练基础设施,读者可据此判断它在开源模型中的位置。
GitHub 发布 AI 代码审查离线基准 ReviewBench,语料基于 103.9M 真实 pull request 的分布,含 19 种语言的 219 个公开 PR,数据集、评判标准和 runner 全部公开。
Ai2 开源 AstaBrief 8B 模型及训练数据,模型可将研究问题和检索到的文献片段一步式生成带引用的科研报告,已在 Asta 的 Generate a report 功能中作为 Fast 模式上线。
Ai2 发布开源训练框架 Olmo-core 3,重新设计 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数规模。
vLLM 官方发布 vllm-metal 首个正式版 v0.28.0,将 vLLM 的调度器、分页 KV cache 和 OpenAI 兼容服务引入 Apple Silicon,由 MLX 和 Metal 负责执行。
推荐理由:原文给出架构细节、与 llama.cpp 和 oMLX 的并发基准数据,以及 Homebrew 安装入口,读者可以据此评估 Apple Silicon 上的服务化方案。
Lovable 宣布逐步用 Rust 编写的预览引擎 OJ 替换 Vite 驱动预览,并将仓库开源到 github.com/lovablelabs/oj。OJ 是单一 Rust 二进制,读取现有 vite.config.ts 并通过兼容桥运行真实 Vite 插件,内置 React Fast Refresh 与 TanStack Start 支持。
Preferred Networks 发布基于 Rust 的 Optuna 实现 Rustuna,并同步推出 Optuna v5.0。Rustuna 在内部基准中最高比 Optuna 快 1000 倍,Matlantis CSP 的替换测试中 10 万次 trial 的内存消耗降低约 50%,完整集成开发中。
Browser Use 公开其从生产环境浏览器智能体流量构建长程强化学习环境的方法,并开源 200 个带评分细则的任务,托管在 github.com/browser-use/benchmark。
推荐理由:原文完整披露了从真实用户流量构建可扩展长程 RL 环境和评分细则的流程,方法可迁移,且开源了 200 个任务。
Amazon Science 发布 PatientAgentBench,一个可复现、经临床医生审核的患者端医疗 AI 智能体评测基准,框架已在 GitHub 开源。
IBM Research 基于加州大学伯克利 Sky Lab 的 K-Search 演进式 kernel 搜索框架,为其新增 MLX 后端和结构化 CUDA 到 MLX 翻译层,把概念映射表、MLX 专有模式和可复用断言作为上下文供进化搜索使用。
推荐理由:原文给出可复现的 CUDA 到 MLX 翻译层做法与分项数据,读者可据此评估跨平台 kernel 迁移的方法是否适用。
Together AI 推出开源智能体推理调度层 ThunderAgent,将每个智能体工作流抽象为可调度的 program,通过暂停低优先级工作流和全局等待队列缓解 KV cache thrashing 并均衡多节点负载。
Amazon 发布开源工具 Turnstile,一个用 Rust 编写的代理层,在生成时刻记录模型的精确 token ID、逐 token log 概率和 loss mask,解决 harness 转录与实际 token 序列不一致导致的 RL 训练信号退化问题。
Factory 发布 Droid Shield 2.0,在确定性扫描器两侧各部署一个微调模型:risk 模型在扫描器未命中时对疑似密钥行做召回优先告警,downgrade 模型在扫描器命中后基于脱敏上下文判断是否误报。
OpenClaw 宣布与 NVIDIA 的 verified agent skills 计划合作,在 ClawHub 技能发布前的验证环节加入 NVIDIA SkillSpector 扫描器,并为每个技能发布由 ClawHub 核验的 NVIDIA Skill Cards。
Zyphra 发布 ZAYA1-74B-Preview,这是一个总参数 74B、激活 4B 的 MoE 预 RL 推理基座,未做 RL 后训练或指令微调,权重以 Apache 2.0 许可在 Hugging Face 开放。
推荐理由:官方发布给出了架构、训练数据规模和 pass@4 对比细节,读者可以据此评估这个预 RL 基座在 AMD 上扩展预训练的实际水准。
Zyphra 发布 ZAYA1-8B,首个在 AMD Instinct MI300 集群上完成预训练、中期训练和微调的 MoE 模型,活跃参数不足 10 亿,在数学、编码和推理基准上可匹敌或超过大得多的开源模型,如 Mistral-Small-4-119B。
推荐理由:官方详解了架构、AMD 训练栈和 Markovian RSA 推理方法,读者可据此评估小参数 MoE 模型的实际推理能力。
Factory 发布代码审查基准结果,用 50 个来自 Sentry、Grafana、Keycloak、Discourse、Cal.com 的真实 PR 测试 13 款模型。
OpenAI 开源其链式思维(CoT)监控性评测套件中的大部分数据集和参考代码,GitHub 仓库为 github.com/openai/monitorabil…,包含 GPQA、AIME、Sandbagging 等干预类、过程类和结果属性类评测,以及监控性指标 g-mean 2 的计算代码。
推荐理由:原文给出开源数据集、g-mean 2 指标代码和新的 cross-fit 过滤方法,读者可以据此在社区复现或扩展 CoT 监控评测。
Berkeley AI Research 在博客中介绍两种可大规模识别 LLM 关键交互的算法 SPEX 与 ProxySPEX,核心思路是通过消融(ablation)检测模型行为的变化。
Zyphra 发布首个基于脑电数据训练的 380M 参数基础模型 ZUNA,用于对头皮 EEG 信号去噪、重建和上采样,目标是推进无创 thought-to-text。
Zyphra 发布其首个基于脑数据的 BCI 基础模型 ZUNA,一个 380M 参数的 diffusion autoencoder 模型,可从嘈杂、不完整的头皮 EEG 数据中重建高保真脑信号,并从稀疏输入和电极坐标预测缺失通道,适用于消费级头环到 256 电极研究系统。
Cognition 开源 blockdiff(github.com/CognitionAI/blockd…),一个对 VM 磁盘做块级差异快照的文件格式与工具,其自研 hypervisor otterlink 借此把磁盘快照时间从 EC2 的 30+ 分钟降到几秒,约 200 倍提速,VM 启动时间也比 EC2 快约 10 倍。
推荐理由:原文复盘了 Cognition 自研磁盘快照格式的动机、设计与取舍,读者能了解 VM 快照从 30 分钟降到秒级的实现路径。
Cognition AI 与斯坦福团队发布 Kevin-32B,基于 QwQ-32B 用多轮强化学习训练 CUDA 内核生成,在 KernelBench 前两级任务上 8 轮细化后平均正确率 65%,解决 89% 的数据集,超过 o4-mini 的 53% 和 o3 的 51%,best@16 加速比 1.41x。
Cursor 团队主张把 prompting 视为类似网页设计的 prompt design,并据此推出类似 React、基于 JSX 的提示词设计库 Priompt v0.1。库已在 Cursor 内部使用,支持注释部分提示词和用真实请求记录的 props 预览渲染后的完整提示词,作者还讨论了长上下文、缓存和函数调用等趋势对该定位的影响。