Zyphra 发布 AMD 训练的 MoE 模型 ZAYA1-8B
Zyphra 发布 ZAYA1-8B，首个在 AMD Instinct MI300 集群上完成预训练、中期训练和微调的 MoE 模型，活跃参数不足 10 亿，在数学、编码和推理基准上可匹敌或超过大得多的开源模型，如 Mistral-Small-4-119B。
推荐理由：官方详解了架构、AMD 训练栈和 Markovian RSA 推理方法，读者可据此评估小参数 MoE 模型的实际推理能力。
#数据/训练
Zyphra Research精选AI 评分6464
Zyphra ResearchAI 评分4444 Zyphra 提出 TSP：折叠 Tensor 与 Sequence Parallelism 实现内存高效的 Transformer 训练
Zyphra 发布 Tensor and Sequence Parallelism（TSP），一种将 TP 与 SP 折叠到同一设备维度的并行切分策略，用于训练和推理长上下文 Transformer 模型。
OpenAI：Alignment 研究博客精选AI 评分6262 OpenAI 开源 CoT 监控评测套件的数据集与参考代码
OpenAI 开源其链式思维（CoT）监控性评测套件中的大部分数据集和参考代码，GitHub 仓库为 github.com/openai/monitorabil…，包含 GPQA、AIME、Sandbagging 等干预类、过程类和结果属性类评测，以及监控性指标 g-mean 2 的计算代码。
推荐理由：原文给出开源数据集、g-mean 2 指标代码和新的 cross-fit 过滤方法，读者可以据此在社区复现或扩展 CoT 监控评测。
METR：BlogAI 评分6363 METR 分析 NanoGPT speedrun 记录评估 AI 智能体对 AI 研发的加速
METR 发布对 NanoGPT speedrun 的分析，从 2024 年 5 月到 2026 年 3 月，36 位贡献者提交 77 条记录，将 8×H100 训练时间从 45 分钟压到 1.43 分钟，共 31x 加速。
OpenAI：Alignment 研究博客AI 评分5050 OpenAI 实验：对齐中训练难以泛化到真实 chat 与 agent 评测
OpenAI 在类似 o4-mini 规模的模型上测试 Tice et al. 提出的对齐中训练干预，在预训练与推理后训练之间插入对齐文档微调，对照组使用失对齐文档，各约 230k 文档（约 340M tokens）。
Zyphra ResearchAI 评分4343 Zyphra 提出 HAM：用 RNN 与 KV cache 互补的混合关联记忆架构
Zyphra 介绍其混合关联记忆（HAM）架构，让 RNN 负责压缩总结序列内容，KV cache 仅存储 RNN 难以预测的 token，从而兼顾精确回忆与高效推理。路由机制基于预测误差阈值，并测试了端到端可学习路由和指数深度平均（EDA）路由。在 800M 规模的对比实验中，HAM 以远小于标准 Transformer 的 cache 规模取得了接近或更优的表现。
Charlie O’Neill 研究写作AI 评分5252 开源 AI 是“迈克尔·斯科特纸业公司”：Charlie O‘Neill 论专业化和时间差如何利好开源模型
Charlie O’Neill 发表长文分析，以《办公室》中 Michael Scott Paper Company 的比喻论证开源 AI 无需在原始基准上追平前沿实验室，只需在真正重要的“智能天花板”即可自动化的经济价值工作上胜出。
Charlie O’Neill 研究写作AI 评分4646 持续学习与“单体模型之后”的 AI 时代：为何持续学习离不开专用化
现代大语言模型像失忆症患者，context window 填满后只能靠摘要重启，而 KV cache 随上下文线性增长，持续学习必须把信息从 token 层移入权重层。
Charlie O’Neill 研究写作AI 评分4343 通过自学习内化潜在结构：Claude 的宪章如何塑造模型行为
Anthropic 为 Claude 制定了宪法（Constitution），作为训练中价值观与行为的最终依据。
Zyphra ResearchAI 评分5757 Zyphra 发布 ZAYA1 预览版：首个完全在 AMD 全栈上端到端预训练的模型
Zyphra 宣布 ZAYA1 预览版，称其为首个完全在 AMD 硬件、软件和网络栈上端到端训练的 AI 模型。
Cognition 模型 / Devin 博客AI 评分5353 Cognition 与斯坦福发布 Kevin-32B：用多轮 RL 训练 CUDA 内核生成模型
Cognition AI 与斯坦福团队发布 Kevin-32B，基于 QwQ-32B 用多轮强化学习训练 CUDA 内核生成，在 KernelBench 前两级任务上 8 轮细化后平均正确率 65%，解决 89% 的数据集，超过 o4-mini 的 53% 和 o3 的 51%，best@16 加速比 1.41x。