跳到正文
6月1日周一
5月7日周四
  1. Zyphra Research60

    Zyphra 发布 ZAYA1-74B-Preview,在 AMD 上完成大规模预训练

    Zyphra 发布 ZAYA1-74B-Preview,这是一个总参数 74B、激活 4B 的 MoE 预 RL 推理基座,未做 RL 后训练或指令微调,权重以 Apache 2.0 许可在 Hugging Face 开放。

    推荐理由:官方发布给出了架构、训练数据规模和 pass@4 对比细节,读者可以据此评估这个预 RL 基座在 AMD 上扩展预训练的实际水准。

5月6日周三
  1. Zyphra Research64

    Zyphra 发布 AMD 训练的 MoE 模型 ZAYA1-8B

    Zyphra 发布 ZAYA1-8B,首个在 AMD Instinct MI300 集群上完成预训练、中期训练和微调的 MoE 模型,活跃参数不足 10 亿,在数学、编码和推理基准上可匹敌或超过大得多的开源模型,如 Mistral-Small-4-119B。

    推荐理由:官方详解了架构、AMD 训练栈和 Markovian RSA 推理方法,读者可据此评估小参数 MoE 模型的实际推理能力。

4月24日周五
  1. OpenAI:Alignment 研究博客62

    OpenAI 开源 CoT 监控评测套件的数据集与参考代码

    OpenAI 开源其链式思维(CoT)监控性评测套件中的大部分数据集和参考代码,GitHub 仓库为 github.com/openai/monitorabil…,包含 GPQA、AIME、Sandbagging 等干预类、过程类和结果属性类评测,以及监控性指标 g-mean 2 的计算代码。

    推荐理由:原文给出开源数据集、g-mean 2 指标代码和新的 cross-fit 过滤方法,读者可以据此在社区复现或扩展 CoT 监控评测。

3月13日周五
2月18日周三
2025年6月23日周一
  1. Cognition 模型 / Devin 博客62

    Cognition 开源 blockdiff:秒级 VM 磁盘块级快照文件格式

    Cognition 开源 blockdiff(github.com/CognitionAI/blockd…),一个对 VM 磁盘做块级差异快照的文件格式与工具,其自研 hypervisor otterlink 借此把磁盘快照时间从 EC2 的 30+ 分钟降到几秒,约 200 倍提速,VM 启动时间也比 EC2 快约 10 倍。

    推荐理由:原文复盘了 Cognition 自研磁盘快照格式的动机、设计与取舍,读者能了解 VM 快照从 30 分钟降到秒级的实现路径。

2025年5月6日周二