Zyphra Research·· 23 天前精选AI 评分65
Zyphra 发布 ZOE 第二波 MI355X 推理优化报告，GLM-5.3 长上下文 TTFT 提速至 3.6x
Zyphra Inference Wave 2: Faster MoE and Long-Context Serving on MI355X
AI 导读
Zyphra 发布 Zyphra Optimization Engine（ZOE）第二波推理优化技术报告，针对 AMD Instinct MI355X 编写融合 MoE、DSA lightning indexer、CSA top-K 选择和 dual-scope decode 四个自定义 HIP kernel，并集成进其生产 fork 的 vLLM 和 SGLang。
推荐理由
Zyphra 以实测 roofline 为基准公开了 kernel 与端到端数据，长上下文 MoE 推理优化方法对同类工程工作有参考价值。
来源：Zyphra Research · zyphra.com