vLLM 官方博客· vLLM Team, Inferact, Red Hat, and NVIDIA·AI 评分51
vLLM 支持 NVIDIA Vera Rubin NVL72,AgentX 吞吐最高达 GB200 的 7.84 倍
vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72
AI 导读
vLLM 宣布现已支持 NVIDIA Vera Rubin NVL72,提供每日容器构建并支持 DeepSeek、Kimi、GLM 和 MiniMax 等模型。
来源:vLLM 官方博客 · vllm.ai