Marktechpost 发布 GPU Leaderboard 与 Deploy It Chrome 扩展
Marktechpost 推出免费云 GPU 价格对比站点 GPU Leaderboard 和配套的 Chrome 扩展 Deploy It,面向推理场景汇总各供应商页面上的按需和竞价价格。
Marktechpost 推出免费云 GPU 价格对比站点 GPU Leaderboard 和配套的 Chrome 扩展 Deploy It,面向推理场景汇总各供应商页面上的按需和竞价价格。
Hugging Face 首席政策官 Irene Solaiman 在 Equity 播客及接受 TechCrunch 采访时警告,开放社区的低门槛和平台上集中的评测数据集、第三方 API 密钥正使其成为攻击目标,收缩开放性可能限制独立研究者和爱好者参与。
开发者 Matt 发布 Outlier,一款在 Apple Silicon Mac 上本地运行模型的应用,默认完全离线、无 token 限制、无账号,聊天和文件留在本机,作者用 lsof 抽样 22 次验证零外连。
IBM 在 QDC 2026 上发布一系列面向开发者的 Qiskit 新工具,覆盖硬件、纠错、工作负载、应用和访问。
Tether AI Research 发布基于 Qwen3.5-0.8B 的 0.8B 参数端侧智能体模型 BotPsy,专注函数调用和个人助理任务,称其在六个工具使用与智能体基准上优于所有受测的 1.2B 及以下模型,BFCL v4 从基座的 23.4 升至 44.0,并在五项基准上超过 2.5 倍大小的 Qwen3.5-2B-Think。
vLLM 官方博客讲解 Encoder/Prefill/Decode(EPD)分离架构的工程实现,可将多模态编码阶段独立部署为单独的 vLLM 实例。
PyTorch 官方为 ExecuTorch 新增 WebGPU 后端,模型通过 torch.export 导出为 .pte 文件后可在任何支持 WebGPU 的浏览器中以 GPU 加速运行,无需转换为 GGUF、ONNX 等格式。
推荐理由:官方为 PyTorch 模型提供了不转换格式的浏览器 GPU 推理路径,并给出与 CPU 路径的具体性能对比和验证模型清单。
PyTorch 官方博客详解如何在单台 4 芯片 TPU v7 主机上,用 SGLang-TorchTPU 服务 Meta 的 816B 参数 MoE 开放权重模型 Muse Spark Open。
ComfyUI 官方宣布原生支持 MiniMax 的开源权重图像模型 MiniMax H3 Image,同一 checkpoint 兼做文生图和参考图编辑,也可通过 Partner Nodes 用 API 调用。
推荐理由:官方给出了权重下载入口、采样配置和节点用法,读者可以据此判断在自己的 GPU 上跑图和编辑的可行方式。
NVIDIA 在 KubeCon + CloudNativeCon 上宣布将开源运行时 OpenShell 捐给 CNCF 作为 Sandbox 项目,用于对自主 Agent 施加确定性控制与治理;同时参与 Google 主导的 Agent Substrate 项目并与之集成。
Zyphra 发布开源 TTS 模型 ZONOS3-Mini,为稀疏 MoE 架构,总参数 800M、每 token 约 100M 激活,权重采用 Apache 2.0,支持零样本声音克隆和词级控制。
AI Agent 大部分时间处于空闲,等待人类提示词、工具结果或模型响应,而 Kubernetes 并非为此设计。每个会话独占一个 Pod 会为空闲会话占用内存,在轮次之间删除 Pod 则每次付出数秒冷启动代价并丢失 Agent 状态;RL 后训练也面临同样的瓶颈。NVIDIA 介绍 Agent Substrate,并将其捐赠给相关社区以支撑大规模 Agent 运行。
n8n Labs 发布研究预览版 Nod,一个独立于 n8n 的开源个人智能体,可在 Mac 或 Windows 本地运行,自带沙盒和浏览器,通过 Gmail、Calendar、Slack 等应用及无集成的网站完成任务。
推荐理由:n8n Labs 首次发布个人智能体 Nod,读者可从本地沙盒、记忆基准和成本控制细节判断它是否适合接手日常琐事。
Tim O'Reilly 在这篇长文中回应 Richard Sutton 的“苦涩教训”,自称 human-pilled:LLM 知道一切却因此什么也不知道,人类的专业知识为模型提供聚焦,并举 O'Reilly Expert Intelligence MCP 服务器让模型参考《Site Reliability Engineering》后将招聘建议改为 toil 审计的例子。
Anthropic 发布 Fable 5.2 和 Mythos 5.2,Simon Willison 已将新模型加入 llm-anthropic 0.31,可直接用 llm -m claude-fable-5.2 调用。
ComfyUI 官方博客盘点 10 月随 v0.44 等版本上线的一批工作流细节改进,包括可连 32 个输入的 Branch Node、单 Node 堆叠最多 20 个 LoRA、Comfy Desktop 模板自动下载示例输入和缺失模型、多输出打包 zip 下载、EXR/HDR/ProRes 管线完善、链接隐藏与框选删除,以及 widget 内独立撤销重做。
Meta 在 lldb-server 中构建了厂商中立的 accelerator 插件架构,用于调试跨越 CPU 和 GPU 的应用程序。该设计将 CPU 与 GPU 表示为各自独立的 LLDB target(调试进程),同时呈现在同一个调试会话中,插件把厂商设备调试 API 转换为 LLDB 已有概念(进程、线程、寄存器、内存等)。
Zyphra 发布 ZONOS3-Mini,一个零样本语音克隆 TTS 模型,采用稀疏 MoE 架构,1 亿活跃参数、8 亿总参数,Apache 2.0 许可,在 112 块 NVIDIA H100 上训练 2.5 天。
推荐理由:原文给出参数规模、端侧延迟数字和 ZTTS2-Eval 排名,开源权重与多端运行时可帮助读者评估实际部署成本。
LangChain 在 Deep Agents 中推出异步子智能体,编排器保持对用户可用,后台子智能体并行执行长任务并在完成时回报。管理通过 start_async_task、check_async_task、update_async_task、cancel_async_task 和 list_async_tasks 五个工具完成,任务通知目前为 beta。
Pydantic AI 官方宣布其智能体现在被 Scale AI 开源的 AgentEnv Framework 支持,可在邮箱、工单等可复现真实环境中运行和验证多步任务。
vLLM 团队讲解如何把 vLLM CUDA 构建迁移到 LibTorch Stable ABI,自 v0.33.0 起发布 ABI Stable CUDA wheels,使更换 torch wheel 无需重建 vLLM。
OpenClaw Foundation 在 GitHub Universe 现场演示并发布 OpenClaw Multiplayer,让多人连接同一个 Agent、共享同一上下文协作,请求通过共享队列协调,避免互相冲突的指令和上下文丢失。
Nathan Lambert 借助 Interconnects Dashboard 的数据,分析开放模型推理市场的规模与增长。
Artificial Analysis 报道,BOSS 直聘旗下 Nanbeige 发布开源权重推理模型 Nanbeige4.3-33B,在 Artificial Analysis Intelligence Index v5 上得 20 分,与 Qwen3.8 27B (xhigh) 持平。
Ai2 宣布在 Google.org 数百万美元、为期三年的资助和 Google Research 技术支持下启动 NeuralGCM+ 气候建模项目。该项目基于 Google Research 的 NeuralGCM 混合模型,将其扩展为大气与海洋联合模拟,聚焦数年到数十年的气候趋势预测。
Ray 宣布成立面向硬件加速器的特别兴趣小组(SIG),旨在联合硬件厂商、Ray 贡献者和应用开发者,制定厂商中立的加速器支持路线图。目前 Ray 已支持十余种加速器,涵盖 NVIDIA 与 AMD GPU、TPU、Trainium、Gaudi 等。初期路线图聚焦三个方向:开发与测试基础设施、硬件感知调度能力,以及网络/传输。
Pydantic 团队基于 2026 年 10 月 29 日核对的各项目文档,对比九个 Python AI Agent 框架。
OpenRouter 发文解释开放权重与闭源模型的区别:开放权重模型发布权重,可自行下载、微调和部署;闭源模型只能经厂商及其授权云使用。
推荐理由:OpenRouter 用自家流量和价格数据拆解开放权重与闭源模型的差距,读者可据此按价格和质量权衡做模型选型。
Nathan Lambert 在 Interconnects 撰文复盘自己数周前的观点,认为对开源模型网络风险的担忧被夸大,Claude Mythos 若以开源权重发布世界也会大体无恙,真正跨过能力门槛的是 GLM-5.3。
Pydantic 官方公布 Pydantic V3 规划,称 V3 不会重演 V1 到 V2 的大规模 API 重构,破坏性改动将限于正确性修复或可轻松回退的变更,目标是年底前接近最终状态,暂无发布日期。
vLLM 官方宣布对 Mistral 的 1T 参数、49B 激活的 MoE 原生多模态模型 Mistral Large 4 提供首日支持,提供 FP8 与 NVFP4 两种 checkpoint,通过 vllm/vllm-openai:mistral-large-4 Docker 镜像即可部署。
推荐理由:官方详细拆解了 MoE、稀疏 MLA、DSpark 投机解码和 DCP 等实现细节与实测数据,读者可以据此评估这套 1T 多模态模型的部署收益。
Armin Ronacher 介绍在游戏中使用 Qwen3-TTS 制作自定义旁白声音的实测经验,覆盖 Base、CustomVoice 和 VoiceDesign 三种模型的差异与用法。
Nathan Lambert 撰文分析 Artificial Analysis 新发布的 Intelligence Index v5,指出该指数更偏向通用智能体协作方向,8 个闭源模型跑赢最强待发布开源模型 Kimi K3.1 Pro。
Ai2 介绍了研究者如何将开源文档识别模型 olmOCR 2 用于历史与考古档案。
Meta 发布 2026 Python Typing Survey 结果,共收到 1794 份回复。
n8n 发布 3.0.0 Beta,稳定版预计 12 月初上线。3.0 不加新功能,主要清理遗留代码、收紧安全默认值,包括移除内存 binary data 模式、Code 节点超时从 5 分钟降至 1 分钟、自托管仅支持 Docker、npm/npx 安装不再支持。
Pydantic 工程师、MCP Python SDK 两位维护者之一在 AGNTCon + MCPCon North America 第二天获 Agentic AI Foundation 颁发的 Outstanding Technical Contribution Award。
PyTorch 团队将多语言流式 ASR 模型 Nemotron 3.5 通过 ExecuTorch 部署到 Google Pixel 11,评估 chunk 大小与量化精度对流式识别质量和延迟的影响。
Nathan Lambert 与 Florian Brand 的播客讨论 Kimi K3.1 Pro,指出其在 Artificial Analysis 上排名前三但部分长程基准表现较弱,且官方声明有意下调攻击性网络安全能力,权重定于 11 月 4 日前开源。
vLLM 团队演示在单台 NVIDIA GB300 NVL72 机架上,通过 P/D 分离和 Wide-EP 服务 DeepSeek-V4.1-Flash,运行 SemiAnalysis AgentX 达到每 GPU 954K tokens/s(P90 每用户 196 tokens/s),较此前单节点结果提升 7.9 倍,价格为 $38.96 per GPU-hour。