跳到正文
Zyphra Research·· 7 天前AI 评分49

ZYFA 在 AMD MI355X 上实现快速且准确的 FP8 Attention

ZYFA: Fast and Accurate FP8 Attention on AMD MI355X

AI 导读

Zyphra 发布 ZYFA,这是面向 AMD MI355X(CDNA4)的因果前向注意力 BF16/FP8 内核,并分析 FP8 attention 在该硬件上的三项瓶颈。

来源:Zyphra Research · zyphra.com