ComfyUI 优化 Qwen3.x 本地推理,token 生成速率最高翻倍
ComfyUI 重写文本生成热点路径后,同款 GPU 上 Qwen3.x 模型 token 生成最高提速至两倍,模型与输出质量不变,改进已包含在 ComfyUI v0.45.0,只需加载 Qwen3.x checkpoint 并将 Text Generate 节点的 mtp 设为 auto。
ComfyUI 重写文本生成热点路径后,同款 GPU 上 Qwen3.x 模型 token 生成最高提速至两倍,模型与输出质量不变,改进已包含在 ComfyUI v0.45.0,只需加载 Qwen3.x checkpoint 并将 Text Generate 节点的 mtp 设为 auto。
Anthropic 的 IPO 路演材料披露,Claude Mythos Preview 模型用约 3 天时间摸索出让另一模型在 AMD MI355X GPU 上运行的方法,而传统适配通常需 6 至 12 个月。
沐曦股份与优必选合资成立的具身智能芯片公司曦选创智近期完成 5 亿元人民币天使轮融资,由纪源资本、经纬创投联合领投。资金将用于核心芯片与计算平台研发、软件工具链建设、扩充研发团队,并与机器人厂商和行业客户联合验证、实现量产交付。该公司 2026 年 5 月成立于无锡,定位为具身智能端侧计算平台企业,在上海、深圳、北京布局研发。
Kora Systems 发布一款面向重度 AI 用户的 Linux 桌面操作系统,将 AI 模型和智能体直接集成进系统,支持跨应用工作、访问文件和保留任务上下文,预计 2027 年免费推出,支持 Intel、AMD 和 Qualcomm Snapdragon 设备。
开发者 Matt 发布 Outlier,一款在 Apple Silicon Mac 上本地运行模型的应用,默认完全离线、无 token 限制、无账号,聊天和文件留在本机,作者用 lsof 抽样 22 次验证零外连。
Tether AI Research 发布基于 Qwen3.5-0.8B 的 0.8B 参数端侧智能体模型 BotPsy,专注函数调用和个人助理任务,称其在六个工具使用与智能体基准上优于所有受测的 1.2B 及以下模型,BFCL v4 从基座的 23.4 升至 44.0,并在五项基准上超过 2.5 倍大小的 Qwen3.5-2B-Think。
PyTorch 官方为 ExecuTorch 新增 WebGPU 后端,模型通过 torch.export 导出为 .pte 文件后可在任何支持 WebGPU 的浏览器中以 GPU 加速运行,无需转换为 GGUF、ONNX 等格式。
推荐理由:官方为 PyTorch 模型提供了不转换格式的浏览器 GPU 推理路径,并给出与 CPU 路径的具体性能对比和验证模型清单。
Google 宣布 Gemini Intelligence 现已登陆更多设备,包括摩托罗拉首款机型 motorola signature 27(11 月 19 日在美国开启预订)和 Pixel 10 系列。
Zyphra 发布开源 TTS 模型 ZONOS3-Mini,为稀疏 MoE 架构,总参数 800M、每 token 约 100M 激活,权重采用 Apache 2.0,支持零样本声音克隆和词级控制。
Google 在 Google AI Edge Gallery 中新增端侧 ASR 与 TTS 能力,可完全离线运行。Android 端 ML Kit 支持 100+ 语言转写,速度达 10 倍实时,FLEURS 词错率 8.0% 至 9.0%;TTS 约 100 ms 起播,以最高 50 倍实时速度合成 24 kHz 音频,APK 零增加。
推荐理由:官方给出端侧 ASR 与 TTS 的具体指标和三条接入路径,开发者可据此评估把语音能力加入本地 AI 应用的方案。
Zyphra 发布 ZONOS3-Mini,一个零样本语音克隆 TTS 模型,采用稀疏 MoE 架构,1 亿活跃参数、8 亿总参数,Apache 2.0 许可,在 112 块 NVIDIA H100 上训练 2.5 天。
推荐理由:原文给出参数规模、端侧延迟数字和 ZTTS2-Eval 排名,开源权重与多端运行时可帮助读者评估实际部署成本。
Preferred Networks 于 11 月 5 日开源发布翻译专用大模型 PLaMo 3 Translate,提供 0.8B、2B、8B、31B 四种规格,已上架 Hugging Face。
推荐理由:原文给出四个模型规格、53 种语言覆盖和离线运行能力,可帮助读者评估端侧翻译模型的选型与商用许可条件。
Gradium 团队在 Phonon 开放两周后复盘这次发布,介绍这款在设备本地运行、无需网络和服务器的小型 TTS 模型。
Google 宣布对 Google Play services 中的 LiteRT 端侧推理运行时进行重大升级:由 ML Drift 驱动并通过新 CompiledModel API 提供的 GPU 推理,比旧版 GPU delegate 快约 1.4x。
Apple 于 10 月 28 日发布搭载 PROLED XDR 显示屏的新 MacBook Pro,14/16 英寸两款,10 月 28 日起预售,11 月 6 日上市。
PyTorch 团队将多语言流式 ASR 模型 Nemotron 3.5 通过 ExecuTorch 部署到 Google Pixel 11,评估 chunk 大小与量化精度对流式识别质量和延迟的影响。
Apple 于 10 月 27 日发布搭载 M6 芯片的 14 英寸 MacBook Pro,10 月 28 日开启预购,11 月 6 日上市,起售价 $1,999。
Apple 发布搭载 M6 芯片的新款 iMac,配备最高 12 核 CPU 和 12 核 GPU,端侧 AI 性能最高比 M4 快 5 倍,Intel 机型用户升级最高快 18 倍。新品搭载 macOS 27 与 Siri AI,支持 Wi-Fi 7 和 Bluetooth 6,24 英寸 4.5K 屏七色可选,10 核版起售价 $1,499,10 月 28 日预购,11 月 6 日开售。
Apple 发布全新 iPad mini,配备 8.5 英寸 OLED 屏幕、更轻薄的机身和 IP67 防水防尘,10 月 28 日开启预购、11 月 6 日发售,Wi-Fi 版起售价 $699。
推荐理由:官方发布稿给出iPad mini的具体规格与定价,读者可据此评估A20 Pro的端侧AI性能升级是否值得换机。
Google Research 在 IDWeek 2026 分享其肺结核筛查 AI 从研究到落地的历程:2019 年基准研究后,经 Nexus AI 转化为 CE MDR Class IIb 认证工具,在约 40 家医疗机构部署,超过 90 名临床医生评估逾 25000 张胸片,周转时间缩短至 45 秒内。
推荐理由:Google Research 官方复盘其肺结核筛查 AI 从论文、CE 认证到开源 MedGemma 落地的完整路径,读者可了解医疗 AI 从研究走向一线的关键环节。
n8n 博客讲解了如何在自托管 LLM 与云 API 之间路由请求,混合方案可按请求类型在本地与云端间分流。
Apple 官方宣布全球开发者已针对首款折叠屏 iPhone Duo 优化应用,覆盖流媒体、游戏、生产力、创作等场景,优化应用从本周五起在 App Store 通过 Made for iPhone Duo 标识可辨。
Google 宣布 Coral NPU 边缘 AI 开放标准达成三大里程碑:新增 Matrix Execution Unit 完成 32 位架构,可配置至 1 TOPS、目标推理平均功耗 10mW。
ChinaTalk 播客访谈蚂蚁 Ling 大模型产品运营负责人 Richard Bian,他认为 AGI 不可避免,并阐述开源是产品策略而非单纯赠送。
Apple 机器学习研究发布教程,介绍用最新版 MLX 在 Mac Studio 上本地运行 Muse Spark Open(816B 参数,MoE)、Mistral Medium 3.5 和 Qwen 3.8。
推荐理由:Apple 官方给出多台 Mac Studio 跑大模型的并行方案与实测数据,读者可对照评估本地推理的可行配置。
Apple 发布 HomeView,一款搭载 7 英寸 Liquid Retina 屏幕的智能家庭设备,内置 Siri AI,可人脸识别最多六位用户并提供个性化内容,支持 FaceTime、多房间音频、智能家居控制和烟雾与一氧化碳报警检测,另有壁挂版本。
OpenClaw 官方宣布将此前 Windows App 的安装体验带到 macOS,用户可像普通应用一样点击安装并通过引导式流程配置,无需使用终端,还能在 macOS 上自动检测已有的 Claude、Codex 或 Ollama 配置。
Waymo 首次展示其自动驾驶计算系统的设计细节。该系统全车载运行、毫秒级决策,算力八年间扩展 20 倍,采用双独立冗余引擎容错,并结合整车液冷在极端温度下保持峰值性能;专为前端传感器处理定制的 5nm ASIC 可提供超过 1,000 TOPS 的 ML 性能,实时处理 13 路高清摄像头数据。
文章分析了阿里巴巴上周五发布的 Qwen3.8-27B,指出 27B 是本地部署的甜点位,可在 24~64GB 内存和 RTX 5090 等消费级 GPU 上运行,满足开发者对数据隐私和固定成本的需求。
Zyphra 发布首个基于脑电数据训练的 380M 参数基础模型 ZUNA,用于对头皮 EEG 信号去噪、重建和上采样,目标是推进无创 thought-to-text。