ExecuTorch 推出 WebGPU 后端，PyTorch 模型可在浏览器 GPU 上直接运行
PyTorch 官方为 ExecuTorch 新增 WebGPU 后端，模型通过 torch.export 导出为 .pte 文件后可在任何支持 WebGPU 的浏览器中以 GPU 加速运行，无需转换为 GGUF、ONNX 等格式。
推荐理由：官方为 PyTorch 模型提供了不转换格式的浏览器 GPU 推理路径，并给出与 CPU 路径的具体性能对比和验证模型清单。
技术方向
端侧 AI 最新动态
直接跑在手机、电脑等设备上的 AI：小模型、在本机运行模型的工具与端侧芯片。
7 条精选近 30 天 7 条共收录 35 条
更新
端侧 AI的精选
PyTorch：Blog精选AI 评分6565
Google Developers Blog精选AI 评分7474 Google AI Edge Gallery 新增端侧语音识别与语音合成能力
Google 在 Google AI Edge Gallery 中新增端侧 ASR 与 TTS 能力，可完全离线运行。Android 端 ML Kit 支持 100+ 语言转写，速度达 10 倍实时，FLEURS 词错率 8.0% 至 9.0%；TTS 约 100 ms 起播，以最高 50 倍实时速度合成 24 kHz 音频，APK 零增加。
推荐理由：官方给出端侧 ASR 与 TTS 的具体指标和三条接入路径，开发者可据此评估把语音能力加入本地 AI 应用的方案。
Zyphra Research精选AI 评分6767 Zyphra 发布 ZONOS3-Mini 开源实时语音克隆 TTS 模型
Zyphra 发布 ZONOS3-Mini，一个零样本语音克隆 TTS 模型，采用稀疏 MoE 架构，1 亿活跃参数、8 亿总参数，Apache 2.0 许可，在 112 块 NVIDIA H100 上训练 2.5 天。
推荐理由：原文给出参数规模、端侧延迟数字和 ZTTS2-Eval 排名，开源权重与多端运行时可帮助读者评估实际部署成本。
Preferred Networks：AI 研究与产品精选AI 评分6060 PFN 开源发布翻译专用模型 PLaMo 3 Translate，支持 53 种语言离线运行
Preferred Networks 于 11 月 5 日开源发布翻译专用大模型 PLaMo 3 Translate，提供 0.8B、2B、8B、31B 四种规格，已上架 Hugging Face。
推荐理由：原文给出四个模型规格、53 种语言覆盖和离线运行能力，可帮助读者评估端侧翻译模型的选型与商用许可条件。
Apple：Newsroom精选AI 评分6060 Apple 发布新款 iPad mini：搭载 A20 Pro 与 8.5 英寸 OLED 屏幕
Apple 发布全新 iPad mini，配备 8.5 英寸 OLED 屏幕、更轻薄的机身和 IP67 防水防尘，10 月 28 日开启预购、11 月 6 日发售，Wi-Fi 版起售价 $699。
推荐理由：官方发布稿给出iPad mini的具体规格与定价，读者可据此评估A20 Pro的端侧AI性能升级是否值得换机。
Google Research精选AI 评分6060 Google Research 复盘医疗 AI 用于肺结核筛查的落地之路
Google Research 在 IDWeek 2026 分享其肺结核筛查 AI 从研究到落地的历程：2019 年基准研究后，经 Nexus AI 转化为 CE MDR Class IIb 认证工具，在约 40 家医疗机构部署，超过 90 名临床医生评估逾 25000 张胸片，周转时间缩短至 45 秒内。
推荐理由：Google Research 官方复盘其肺结核筛查 AI 从论文、CE 认证到开源 MedGemma 落地的完整路径，读者可了解医疗 AI 从研究走向一线的关键环节。
Apple Machine Learning Research精选AI 评分6666 Apple 用 MLX 和 RDMA 在 Mac Studio 集群上运行近万亿参数 LLM
Apple 机器学习研究发布教程，介绍用最新版 MLX 在 Mac Studio 上本地运行 Muse Spark Open（816B 参数，MoE）、Mistral Medium 3.5 和 Qwen 3.8。
推荐理由：Apple 官方给出多台 Mac Studio 跑大模型的并行方案与实测数据，读者可对照评估本地推理的可行配置。