vLLM 官方博客· Inferact, Reflection, and Nvidia·· 28 天前精选AI 评分63
vLLM 从 Day 0 支持 Reflection Beam 501B MoE 模型
Serving Reflection Beam on vLLM from Day 0
AI 导读
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型，这是一款 501B 参数、每 token 激活 23B 的 MoE，采用 DeepSeek-V3 式路由和混合滑动窗口与 NoPE 注意力。
推荐理由
vLLM 官方详述 Beam 模型架构与逐项优化数据，部署者可以直接照抄配置和权衡结论上手。
来源：vLLM 官方博客 · vllm.ai