SemiAnalysis 长文 RSS· Bryan Shan·AI 评分65
SemiAnalysis 实测 DeepSeek-V4.1 Flash 的 Engram 卸载:DRAM 收益明显,SSD 不划算
Engrams Embedding Entendre: Codesign for Efficient DRAM/SSD Offloading
AI 导读
SemiAnalysis 发布长文,分析 DeepSeek-V4.1 Flash 的 Engram 多 token 嵌入查找机制,并给出模型与 DRAM/SSD 卸载协同设计的实测结果。
来源:SemiAnalysis 长文 RSS · newsletter.semianalysis.com