ExecuTorch 推出 WebGPU 后端,PyTorch 模型可在浏览器 GPU 上直接运行
PyTorch 官方为 ExecuTorch 新增 WebGPU 后端,模型通过 torch.export 导出为 .pte 文件后可在任何支持 WebGPU 的浏览器中以 GPU 加速运行,无需转换为 GGUF、ONNX 等格式。
推荐理由:官方为 PyTorch 模型提供了不转换格式的浏览器 GPU 推理路径,并给出与 CPU 路径的具体性能对比和验证模型清单。
PyTorch 官方为 ExecuTorch 新增 WebGPU 后端,模型通过 torch.export 导出为 .pte 文件后可在任何支持 WebGPU 的浏览器中以 GPU 加速运行,无需转换为 GGUF、ONNX 等格式。
推荐理由:官方为 PyTorch 模型提供了不转换格式的浏览器 GPU 推理路径,并给出与 CPU 路径的具体性能对比和验证模型清单。
Google 在 Google AI Edge Gallery 中新增端侧 ASR 与 TTS 能力,可完全离线运行。Android 端 ML Kit 支持 100+ 语言转写,速度达 10 倍实时,FLEURS 词错率 8.0% 至 9.0%;TTS 约 100 ms 起播,以最高 50 倍实时速度合成 24 kHz 音频,APK 零增加。
推荐理由:官方给出端侧 ASR 与 TTS 的具体指标和三条接入路径,开发者可据此评估把语音能力加入本地 AI 应用的方案。
Zyphra 发布 ZONOS3-Mini,一个零样本语音克隆 TTS 模型,采用稀疏 MoE 架构,1 亿活跃参数、8 亿总参数,Apache 2.0 许可,在 112 块 NVIDIA H100 上训练 2.5 天。
推荐理由:原文给出参数规模、端侧延迟数字和 ZTTS2-Eval 排名,开源权重与多端运行时可帮助读者评估实际部署成本。
Preferred Networks 于 11 月 5 日开源发布翻译专用大模型 PLaMo 3 Translate,提供 0.8B、2B、8B、31B 四种规格,已上架 Hugging Face。
推荐理由:原文给出四个模型规格、53 种语言覆盖和离线运行能力,可帮助读者评估端侧翻译模型的选型与商用许可条件。
Apple 发布全新 iPad mini,配备 8.5 英寸 OLED 屏幕、更轻薄的机身和 IP67 防水防尘,10 月 28 日开启预购、11 月 6 日发售,Wi-Fi 版起售价 $699。
推荐理由:官方发布稿给出iPad mini的具体规格与定价,读者可据此评估A20 Pro的端侧AI性能升级是否值得换机。
Google Research 在 IDWeek 2026 分享其肺结核筛查 AI 从研究到落地的历程:2019 年基准研究后,经 Nexus AI 转化为 CE MDR Class IIb 认证工具,在约 40 家医疗机构部署,超过 90 名临床医生评估逾 25000 张胸片,周转时间缩短至 45 秒内。
推荐理由:Google Research 官方复盘其肺结核筛查 AI 从论文、CE 认证到开源 MedGemma 落地的完整路径,读者可了解医疗 AI 从研究走向一线的关键环节。
Apple 机器学习研究发布教程,介绍用最新版 MLX 在 Mac Studio 上本地运行 Muse Spark Open(816B 参数,MoE)、Mistral Medium 3.5 和 Qwen 3.8。
推荐理由:Apple 官方给出多台 Mac Studio 跑大模型的并行方案与实测数据,读者可对照评估本地推理的可行配置。