Zyphra 发布 ZAYA1-74B-Preview，在 AMD 上完成大规模预训练
Zyphra 发布 ZAYA1-74B-Preview，这是一个总参数 74B、激活 4B 的 MoE 预 RL 推理基座，未做 RL 后训练或指令微调，权重以 Apache 2.0 许可在 Hugging Face 开放。
推荐理由：官方发布给出了架构、训练数据规模和 pass@4 对比细节，读者可以据此评估这个预 RL 基座在 AMD 上扩展预训练的实际水准。
#数据/训练
Zyphra Research精选AI 评分6060
Zyphra Research精选AI 评分6464 Zyphra 发布 AMD 训练的 MoE 模型 ZAYA1-8B
Zyphra 发布 ZAYA1-8B，首个在 AMD Instinct MI300 集群上完成预训练、中期训练和微调的 MoE 模型，活跃参数不足 10 亿，在数学、编码和推理基准上可匹敌或超过大得多的开源模型，如 Mistral-Small-4-119B。
推荐理由：官方详解了架构、AMD 训练栈和 Markovian RSA 推理方法，读者可据此评估小参数 MoE 模型的实际推理能力。
已经到底了