跳到正文
vLLM 官方博客· vLLM Team, Inferact, Red Hat, and NVIDIA·AI 评分51

vLLM 支持 NVIDIA Vera Rubin NVL72,AgentX 吞吐最高达 GB200 的 7.84 倍

vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72

AI 导读

vLLM 宣布现已支持 NVIDIA Vera Rubin NVL72,提供每日容器构建并支持 DeepSeek、Kimi、GLM 和 MiniMax 等模型。

来源:vLLM 官方博客 · vllm.ai