跳到正文
  1. Google Developers Blog64

    Google 发布 TorchTitan TPU:TorchTPU 原生接入 PyTorch 并给出 TPU 训练优化方案

    Google 发布 TorchTitan TPU 分支(github.com/google-pytorch/torchtitan),配合 TorchTPU 让 PyTorch 通过 torch.device("tpu") 原生使用 Cloud TPU,无需改写 JAX 或依赖旧 torch_xla。

    推荐理由:官方详细披露了 TorchTitan TPU 的关键组件与实测 MFU 数据,读者可据此评估自家模型迁移到 Cloud TPU 的可行路径。

  1. vLLM 官方博客60

    vLLM 发布训练-推理逐位一致方案,DeepSeek-V4-Flash RL 训练 diff 降为 0

    vLLM 官方博客发布训练-推理一致性方案:训练前向直接调用 vLLM 推理内核并改造为逐位一致,在 DeepSeek-V4-Flash 100 步 RL 训练中每步 diff 为 0,rollout 吞吐达高性能基线的 91.3%,而基线 KL 从 2e-3 升至 29.9 且奖励回落。

    推荐理由:原文给出训练与推理逐位一致的完整方案和开源技能,读者可据此在新模型上复现真正的 on-policy RL。

  1. Berkeley AI Research63

    研究者用 K-Search 将 CUDA kernel 优化经验迁移到 Apple Silicon 的 MLX

    IBM Research 基于加州大学伯克利 Sky Lab 的 K-Search 演进式 kernel 搜索框架,为其新增 MLX 后端和结构化 CUDA 到 MLX 翻译层,把概念映射表、MLX 专有模式和可复用断言作为上下文供进化搜索使用。

    推荐理由:原文给出可复现的 CUDA 到 MLX 翻译层做法与分项数据,读者可据此评估跨平台 kernel 迁移的方法是否适用。

  1. Cognition 模型 / Devin 博客62

    Cognition 开源 blockdiff:秒级 VM 磁盘块级快照文件格式

    Cognition 开源 blockdiff(github.com/CognitionAI/blockd…),一个对 VM 磁盘做块级差异快照的文件格式与工具,其自研 hypervisor otterlink 借此把磁盘快照时间从 EC2 的 30+ 分钟降到几秒,约 200 倍提速,VM 启动时间也比 EC2 快约 10 倍。

    推荐理由:原文复盘了 Cognition 自研磁盘快照格式的动机、设计与取舍,读者能了解 VM 快照从 30 分钟降到秒级的实现路径。

已经到底了