vLLM 官方博客· Mistral and the vLLM Team·· 15 天前精选AI 评分75
vLLM 实现 Mistral Large 4 首日支持，覆盖 NVIDIA、AMD 与 TPU
Day 0 support for Mistral Large 4 on vLLM
AI 导读
vLLM 官方宣布对 Mistral 的 1T 参数、49B 激活的 MoE 原生多模态模型 Mistral Large 4 提供首日支持，提供 FP8 与 NVFP4 两种 checkpoint，通过 vllm/vllm-openai:mistral-large-4 Docker 镜像即可部署。
推荐理由
官方详细拆解了 MoE、稀疏 MLA、DSpark 投机解码和 DCP 等实现细节与实测数据，读者可以据此评估这套 1T 多模态模型的部署收益。
来源：vLLM 官方博客 · vllm.ai