跳到正文
PyTorch:Blog· Julian Ng-Thow-Hing, Siddartha Pothapragada, Stephen Jia, Digant Desai, Bilgin Cagatay·· 2 天前精选AI 评分65

ExecuTorch 推出 WebGPU 后端,PyTorch 模型可在浏览器 GPU 上直接运行

ExecuTorch WebGPU: PyTorch Models on the GPU, in the Browser

AI 导读

PyTorch 官方为 ExecuTorch 新增 WebGPU 后端,模型通过 torch.export 导出为 .pte 文件后可在任何支持 WebGPU 的浏览器中以 GPU 加速运行,无需转换为 GGUF、ONNX 等格式。

推荐理由

官方为 PyTorch 模型提供了不转换格式的浏览器 GPU 推理路径,并给出与 CPU 路径的具体性能对比和验证模型清单。

来源:PyTorch:Blog · pytorch.org