Meta 详解 Intelligent Delivery:用 ML 和 Agentic AI 优化广告排序算力分配
Meta 工程博客介绍 Intelligent Delivery,一个在服务栈内按边际效用分配算力的 ML 驱动系统,自 2017 年至 2026 年上半年在模型和系统优化之外带来约 10% 的广告排序性能提升。
Meta 工程博客介绍 Intelligent Delivery,一个在服务栈内按边际效用分配算力的 ML 驱动系统,自 2017 年至 2026 年上半年在模型和系统优化之外带来约 10% 的广告排序性能提升。
ComfyUI 重写文本生成热点路径后,同款 GPU 上 Qwen3.x 模型 token 生成最高提速至两倍,模型与输出质量不变,改进已包含在 ComfyUI v0.45.0,只需加载 Qwen3.x checkpoint 并将 Text Generate 节点的 mtp 设为 auto。
AWS 在机器学习博客介绍开源的 Universal Agent Evaluation Framework(UAEF),一个框架无关的 AI 智能体闭环评估系统。
Databricks 发布新一代 Genie,定位为可主动承担长周期企业工作的自主 AI 智能体,持续追踪进度、跟进缺失输入并采取行动,用户可通过 Genie One、邮件、Slack 和 Teams 布置任务并设置审批。
OpenRouter 在 alpha 阶段上线 Extractions API,用户通过描述字段名即可从文本、图片和 PDF 中抽取每字段一个类型化数值。
推荐理由:官方发布公告,说明三款抽取模型的字段类型、置信度与 p_null 机制差异,便于按文档形态选择合适模型。
Databricks 推出新的 Genie 插件,让 ChatGPT、Claude、Microsoft Copillow Cowork 和 Grok Bot 原生访问 Genie Ontology 企业上下文层,通过受治理接口获取业务术语定义与数据关系。
Databricks 宣布 Genie Ontology 正式发布(GA),它由 Agent 从仪表板、SQL 查询、notebook 和 Power BI 等语义模型中自动学习业务上下文,并由人通过 Unity Catalog 治理关键定义,经 Genie MCP 可供 ChatGPT、Claude、Microsoft Copilot 等外部 Agent 使用。
Databricks 宣布 Genie One 升级为企业的 AI 同事之家,所有对话、产出物和工作流都基于 Genie Ontology 的企业上下文,并通过 Unity Gateway 治理。
Databricks 介绍 Genie Agents 的新能力:该智能体从生成 SQL 洞察进化为理解企业全部业务上下文的无代码智能体,新增非结构化文档分析、MMP 连接器(应为 MCP connectors)与 OpenSharing 支持,可自动完成文档解析、索引与上下文检索并给出带具体引用的答案。
Hugging Face 博客介绍如何用 pooling-aware training 压缩多向量检索模型的文档向量,并给出可复现的 Sentence Transformers 训练示例。
AWS 在机器学习博客上介绍 Pluggable Agentic AI Framework,一套基于 Amazon Bedrock AgentCore 的七层可组合参考架构,用于将多智能体 AI 应用从原型推进到生产规模。
AWS 宣布 Claude Fable 5.2 和 Claude Mythos 5.2 在 Amazon Bedrock 及 Claude Platform on AWS 上可用。
推荐理由:AWS 官方公告同时给出能力说明、数据保留选项和 Bedrock 调用示例,读者可据此评估迁移与接入成本。
IBM 在 QDC 2026 上发布一系列面向开发者的 Qiskit 新工具,覆盖硬件、纠错、工作负载、应用和访问。
Tether AI Research 发布基于 Qwen3.5-0.8B 的 0.8B 参数端侧智能体模型 BotPsy,专注函数调用和个人助理任务,称其在六个工具使用与智能体基准上优于所有受测的 1.2B 及以下模型,BFCL v4 从基座的 23.4 升至 44.0,并在五项基准上超过 2.5 倍大小的 Qwen3.5-2B-Think。
月之暗面(Moonshot AI)的 Kimi K3.1 Pro Highspeed 现已在 Amazon Bedrock 上可用。该模型基于 Kimi K3 的 3T 级开放权重架构后训练而来,保持 1 百万 token 上下文窗口,官方称输出速度达 Kimi K3.1 Pro 的 2–3 倍,强化了长程智能体任务、金融建模和游戏引擎等编码能力。
OpenRouter 发文解释 LLM 量化原理,并公布 2026 年 10 月 20 日对 1,455 个 provider 端点和 6 个 Qwen3.8 27B 端点的实测结果。
推荐理由:作者实测同一模型不同精度端点的准确率和价格,给出 provider.quantizations 的用法,可帮助读者按精度选更省钱的 API 端点。
OpenRouter 在一个 GitHub 任务上用 Claude Haiku 5.5、Claude Sonnet 5.5、GPT-6 Luna 和 Gemini 3.8 Flash 实测三种工具接入的 token 成本。
推荐理由:OpenRouter 用同一 GitHub 任务实测三种工具接入方式的 token 差异,并给出测量脚本和按场景选型的具体建议,方法可迁移到读者自己的服务器。
OpenRouter 发布教程,讲解如何读取 429 错误头部并修复 OpenAI 与 Claude 限流问题,所有示例均在 OpenRouter API 上实测。
vLLM 官方博客讲解 Encoder/Prefill/Decode(EPD)分离架构的工程实现,可将多模态编码阶段独立部署为单独的 vLLM 实例。
AWS 发文介绍 Amazon Bedrock AgentCore Web Search API 现已可用,并给出一个安全团队每日依赖监控的完整教程。
PyTorch 官方为 ExecuTorch 新增 WebGPU 后端,模型通过 torch.export 导出为 .pte 文件后可在任何支持 WebGPU 的浏览器中以 GPU 加速运行,无需转换为 GGUF、ONNX 等格式。
推荐理由:官方为 PyTorch 模型提供了不转换格式的浏览器 GPU 推理路径,并给出与 CPU 路径的具体性能对比和验证模型清单。
LangChain 在博客中介绍如何用 Deep Agents 管理 Agent 的上下文窗口,缓解 context rot。
Meta 工程博客详解其构建的 Triton 低层扩展 TLX,通过显式 warp 组编排补足 CUDA 细粒度控制与 Triton 块级编程模型之间的抽象缺口。
PyTorch 官方博客详解如何在单台 4 芯片 TPU v7 主机上,用 SGLang-TorchTPU 服务 Meta 的 816B 参数 MoE 开放权重模型 Muse Spark Open。
Google 发布 Gemini 4 Carbon,并已在 n8n 的 AI Agent 节点和独立 Gemini 节点中可用。
推荐理由:原文结合 n8n 场景梳理 Gemini 4 Carbon 在自动化基准、长任务和抗提示词注入上的表现,并给出接入与定价细节。
NVIDIA 在 KubeCon + CloudNativeCon 上宣布将开源运行时 OpenShell 捐给 CNCF 作为 Sandbox 项目,用于对自主 Agent 施加确定性控制与治理;同时参与 Google 主导的 Agent Substrate 项目并与之集成。
Google 工程师 Remigiusz Samborski 介绍 Google Agent Skills 仓库近两个月的进展,star 数从 15,000 增至超过 21,000,托管 170 多个技能。
推荐理由:作者以 Google Agent Skills 维护者身份拆解了完整 CI 门禁与 AI 评审规则,读者可把同一套版本化、原子化评测方法迁移到自己的技能仓库。
AI Agent 大部分时间处于空闲,等待人类提示词、工具结果或模型响应,而 Kubernetes 并非为此设计。每个会话独占一个 Pod 会为空闲会话占用内存,在轮次之间删除 Pod 则每次付出数秒冷启动代价并丢失 Agent 状态;RL 后训练也面临同样的瓶颈。NVIDIA 介绍 Agent Substrate,并将其捐赠给相关社区以支撑大规模 Agent 运行。
LiveKit 发布 ROS 2 Portal,一个独立 ROS 2 节点,把 ROS 图接入 LiveKit 房间,通过 WebRTC 在 ROS 与非 ROS 参与者之间转发话题、服务调用和视频,无需跨网暴露 DDS 或自建传输层。
Lovable 安全负责人 Igor Andriushchenko 介绍平台如何帮开发者保障应用安全。
n8n Labs 发布研究预览版 Nod,一个独立于 n8n 的开源个人智能体,可在 Mac 或 Windows 本地运行,自带沙盒和浏览器,通过 Gmail、Calendar、Slack 等应用及无集成的网站完成任务。
推荐理由:n8n Labs 首次发布个人智能体 Nod,读者可从本地沙盒、记忆基准和成本控制细节判断它是否适合接手日常琐事。
LangChain 博客复盘 Stripe 如何在 Deep Agents 上用一名工程师一周时间搭建出全员生产力助手 Kai,采用 Deep Agents 基座加 Stripe 定制 harness、配置层和 UI 的四层架构。
Lovable 工程师详述将前端与 Firestore 解耦、自建实时服务 Lovable Realtime 的过程:核心用 40 个工作日完成,基于 Go、NATS 与 CDC,由后端统一控制授权和数据形状,前端不再直接读 Firestore。
推荐理由:作者复盘自建实时服务从选型、实现到灰度迁移的全过程,并给出可复用的架构取舍和长连接运维经验。
Pydantic AI 官方文章解释 code mode 和 sandbox 不是同一件事:code mode 是模型通过 run_code 写 Python 调用工具以减少模型往返,sandbox 是代码运行的隔离环境,二者可独立也可组合。
推荐理由:原文厘清 code mode 与 sandbox 是两个不同概念,并给出 Pydantic AI 中沙箱边界的三种位置与 workspace 组合方案,可迁移到智能体隔离设计。
Pydantic Logfire 官方发布 Fleet Management 实操教程,演示将 FastAPI 应用和 Linux 主机接入 Fleet 后,在服务运行中通过策略动态调整日志级别、脱敏 card_token 属性并将采样率设为 10%。
AWS Machine Learning Blog 讲解了 AI 服务 AWS Quick 中 agents、skills 与数据的协作机制。Quick 是默认内置 agent,可访问用户有权限的 spaces、knowledge bases、数据集和 dashboards;团队也可配置并共享面向特定任务的自定义 agent。
Hugging Face 组织现可关联 Google Cloud 账户,通过 Google Cloud Marketplace 订阅后,Hugging Face 用量直接计入 Google Cloud 账单,无需再绑企业信用卡。
OpenRouter 发布教程,用 Python 构建一个餐厅订座语音智能体,串起语音转文字、带工具调用的 LLM 和文字转语音三段流水线,共用一个 OpenRouter API key。
推荐理由:OpenRouter 官方实测数据,读者可据此了解语音智能体的延迟构成、成本分布和各模型选型差异。
Hugging Face 在 transformers 中加入 DecisionPipeline、AutoModelForDecision 与 DecisionConfig,并推出 /v1/systemone 服务端点,llama.cpp 也支持同一 API。
推荐理由:官方博客给出 decision pipeline、/v1/systemone 端点和训练示例,读者可以直接照代码把决策模型接入现有分类与路由工作流。
Amp 推出 boxes,一种始终在线的小型计算机,用于部署用 Amp 构建的应用,每个 box 是单台 VM、自带 agent runner,最小规格 $18/30 天常开。用户通过 orb 开发、portal 测试,让 agent 生成并部署 box,可按分钟计费、按计划开关省钱,还支持团队共享和 Sign In With Amp 私有访问。