如何用 Agents CLI 评估循环爬坡式提升 Agent 质量
Google Developers Blog 演示了 Agents CLI v1.8.0 的 eval 循环用法,基于 LangChain 模板搭建天气 Agent,使用 gemini-3.8-flash 作为 LLM-as-judge 按 1-5 分评估 accuracy、relevance、clarity。
Google Developers Blog 演示了 Agents CLI v1.8.0 的 eval 循环用法,基于 LangChain 模板搭建天气 Agent,使用 gemini-3.8-flash 作为 LLM-as-judge 按 1-5 分评估 accuracy、relevance、clarity。
Google 宣布对 Google Play services 中的 LiteRT 端侧推理运行时进行重大升级:由 ML Drift 驱动并通过新 CompiledModel API 提供的 GPU 推理,比旧版 GPU delegate 快约 1.4x。
Together AI 讲解其 GPU Clusters 全自动节点修复系统的工作原理与设计逻辑。系统在 VM 内和宿主机两侧持续检测 Xid 错误、ECC double-bit 错误、GPU 掉离 PCIe 总线、InfiniBand 链路抖动等故障,覆盖 detect、decide、repair、re-validate 四阶段,每项修复都附带证据。
PyTorch 团队将多语言流式 ASR 模型 Nemotron 3.5 通过 ExecuTorch 部署到 Google Pixel 11,评估 chunk 大小与量化精度对流式识别质量和延迟的影响。
Meta 在 2026 OCP 全球峰会发布多项 AI 网络创新并公开全部演讲视频与幻灯片。
Google 为生成式 UI 协议 A2UI 推出可切换推理格式,新默认格式 A2UI Express 相比 Direct JSON 生成同样界面可减少最多 3x 延迟、节省最多 3x token,已上线 Python、TypeScript 和 Dart SDK。
Google 在此前的 GCP 多智能体对话式电商架构蓝图基础上,发布了名为 HappyDelivery 的可运行原型,采用 LangGraph、Gemini、FastAPI 和 Google Cloud 实现 Ingress、Memory、Cognition 三层解耦设计。
LangChain 基于 GTM Agent、OpenSWE 和 Content Studio 三个内部智能体的实践,总结出构建 company harness 的五个核心组件:嵌入 Slack 的用户体验、身份处理(on-behalf-of 与固定凭证)、全局与用户双层记忆、沙箱内代码执行,以及大量由 cron 或事件触发的计划运行。
Pydantic AI 发文解释为何有日志仍需要 traces:日志只记录某时刻发生了什么,而 span 带 trace ID、span ID、parent span ID 及起止时间,能说明哪些操作属于同一请求、谁调用了谁、时间花在哪里。文章以一个 checkout 示例演示:加 request ID 后仍难判断并发调用的真实耗时,操作重试或未结束(如进程被杀)时日志更无法还原调用关系。
vLLM 团队演示在单台 NVIDIA GB300 NVL72 机架上,通过 P/D 分离和 Wide-EP 服务 DeepSeek-V4.1-Flash,运行 SemiAnalysis AgentX 达到每 GPU 954K tokens/s(P90 每用户 196 tokens/s),较此前单节点结果提升 7.9 倍,价格为 $38.96 per GPU-hour。
vLLM 在发布当天为 MiniMax-M3 系列新模型 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。
推荐理由:原文给出了多平台内核优化细节和 AgentX 实测吞吐数据,读者可以据此评估该模型在不同 GPU 上的部署性价比。
Browser Use 作者 Nik Tomazic 对比 11 款浏览器自动化工具,涵盖 AI 智能体、脚本库和托管浏览器三类,并附对比表与用例建议。
vLLM 团队展示如何在 16 张 H200(一个 prefill 节点加一个 decode 节点)上优化 GLM-5.3 的长智能体上下文推理。
PyTorch Conference North America 2026 于 10 月 20–21 日在 San Jose 举行,3500 多人参会,集中展示 PyTorch、vLLM、DeepSpeed、Ray、Helion 等基金会项目。
AI agent 的模型幻觉通常与正常回答无异,需要在工作流中分层检测。指南将幻觉分为事实性、上下文性、虚构和自相矛盾四类,并介绍 faithfulness/groundedness 检查(可用 DeepEval 自动化)、自一致性检查、语义熵不确定性估计、外部源验证以及按置信度阈值分流并保留 human in the loop 的方案。单一检查无法覆盖所有失败模式,需按失败类型组合多层验证。
Mastra 发布 MCP Events,支持 MCP 服务器通过 push、poll 或 webhook 三种投递方式向客户端发送实时事件,提供 .emit() 与 .subscribe() 标准接口,无需额外的 pub/sub 服务。
n8n 博客讲解了如何在自托管 LLM 与云 API 之间路由请求,混合方案可按请求类型在本地与云端间分流。
LangChain 宣布 LangSmith LLM Gateway 开启公测,定位为位于 Agent 与模型之间的集中治理层,支持 OpenAI、Anthropic、Fireworks 及兼容端点。
E2B 成为 Pydantic AI 的原生沙箱提供方,在 Agent capabilities 中加入 E2BSandbox() 即可让所有 shell 命令和文件操作运行在隔离的 E2B microVM 中,本机环境不会进入沙箱。
推荐理由:原文给出把编码 Agent 的命令执行移出本机的具体接入方式,以及沙箱跨运行暂停恢复和 Worker 崩溃后继续任务的完整示例。
Amp 推出自托管 orbs 功能,用户在自己的基础设施上运行 amp orb provider,通过自定义 dispatch 程序处理 spawn、pause、delete 等请求,官方提供 Docker、E2B、Modal、Vercel、Daytona、exe.dev 示例和 GKE/EKS/AKS 的 Helm chart。
PyTorch 团队发布 TorchTitan 年度更新,新增 Muse Spark Open、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3、DeepSeek-V4 等模型的全训练栈支持,并推出 RL 框架 TitanRL,训练与推理共用同一代码库。
Mastra 发布 10 月 21 日平台事故报告:当天凌晨 PT 构建系统宕机,14:59 PT 基础设施供应商 Railway 宣布遭遇安全入侵,平台用户的环境变量可能被第三方访问,但目前无证据表明用户已遭泄露。
Google Cloud 宣布 API Gateway 的流式(streaming)支持进入 Public Preview,此前开发者只能在“有网关治理”和“支持流式”之间二选一。
Wiz 披露 LiteLLM 供应链攻击:10 月 21 日 11:39 UTC,含窃密代码的 LiteLLM 1.107.0 被上传至 PyPI,约获 49,000 次下载,13:20 UTC 被隔离,GHCR 与 Docker Hub 上的 v1.107.0、latest 等镜像标签也含恶意版本,最近的安全版本为 v1.106.2。
推荐理由:Wiz 溯源了 LiteLLM 投毒事件的完整链条,从 PyPI 感染面、窃密模块到后续 LLMjacking 滥用,供使用者自查处置。
IBM 发布插件库 vLLM-Hook MIA(model internals aperture),面向 vLLM 推理引擎,让开发者在不显著降低性能的情况下于运行时观察和干预模型生成过程,例如拒绝恶意提示词、标记幻觉或调整回复。
Lovable 官方发文说明,平台的 SOC 2 Type II、ISO 27001:2022、GDPR 支持和 AIUC-1 认证只覆盖平台本身,用户的应用不会自动获得这些认证。
Browser Use 发布云端浏览器 MCP 服务器横评,按工具形态把五家分成整任务、分步、原始操作和人工接管四类,并给出选型表。
蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming,支持 Turing 起的 NVIDIA GPU 及 T-Head Zhenwu 810E,用统一量化表示加 JIT 编译覆盖多种权重/激活组合和 MoE 工作负载。
推荐理由:蚂蚁集团与 vLLM 社区开源的量化推理内核库,基准数据和端到端收益都给出细节,对部署与内核选型有直接参考价值。
vLLM 宣布从 day 0 起支持 Recursive 的 Flint 模型,NVFP4 和 BF16 两个 checkpoint 均可在单张 GPU 上运行,在一张 GB200 上 100K 上下文下单请求解码约 500 tokens/s。
推荐理由:官方给出 Flint 的架构细节、NVFP4 与 BF16 双 checkpoint 和 day-0 部署方式,读者可以直接照着在 vLLM 上跑起来。
Google 的 Agents CLI 自 1.5.0 版本起引入 Extension System,允许开发者在不 fork 工具的情况下覆盖或新增命令;1.8.0 版本随附首个官方 LangChain 扩展,可将框架相关命令替换为 LangChain 等价命令。
Mastra 介绍其托管可观测平台 Mastra Observability,可直接接入 Mastra 框架项目,自动追踪智能体运行,查看模型与工具调用的耗时、token 和成本,并在线打分跟踪正确性。
Mistral 发布 Voxtral 3,包含语音转写与 TTS 模型以及基于 LiveKit 的语音智能体 SDK,将听、推理、工具调用和说话整合为单一实时流式管线。
Zyphra 发布 Zyphra Optimization Engine(ZOE)第二波推理优化技术报告,针对 AMD Instinct MI355X 编写融合 MoE、DSA lightning indexer、CSA top-K 选择和 dual-scope decode 四个自定义 HIP kernel,并集成进其生产 fork 的 vLLM 和 SGLang。
推荐理由:Zyphra 以实测 roofline 为基准公开了 kernel 与端到端数据,长上下文 MoE 推理优化方法对同类工程工作有参考价值。
llm-d 项目贡献者在 PyTorch Conference North America 发布 llm-d 1.0,一个 Kubernetes 原生的分布式推理服务栈,可部署任意模型、任意加速器、任意云,由 Red Hat、IBM 和 Google 担任主导维护者。
Lovable 发布企业功能 10 月汇总,面向采用联邦治理模式的大型企业团队。
Preferred Networks(PFN)与 Tenstorrent 宣布,其联合提案获日本 NEDO 选定,参与“融合光电子集成技术的 xPU 设计与开发”主题项目。
作者在 BU Bench V2.1 的 100 个公开任务上,用 Codex CLI 0.144.6 加 GPT-6 Luna 对比 Browser Harness、Playwright MCP、Chrome DevTools MCP、agent-browser 和 Browser MCP,分数均在噪声范围内持平(56.3 到 61.0)。
推荐理由:作者用统一代理和 BU Bench 100 个任务实测五款浏览器控制工具,给出 token、成本、速度和适用场景的可比数据。
Inferact 与 Google 团队发布 vLLM TorchTPU(vllm-torchtpu),一个基于 Google TorchTPU 栈的 vLLM 后端插件,复用 vLLM 现有模型代码,多数现有模型无需改动即可在 TPU 上服务,CLI、OpenAI 兼容服务器、调度器和 KV cache 管理器均保持不变。
英国数字健康公司 Numan 分享其 AI 健康教练 Nu 的评测优先构建经验:Nu 基于 LangGraph,由 supervisor 调度领域专家子 Agent,评测直接运行在生产同一张图上。
Google 发布 TorchTitan TPU 分支(github.com/google-pytorch/torchtitan),配合 TorchTPU 让 PyTorch 通过 torch.device("tpu") 原生使用 Cloud TPU,无需改写 JAX 或依赖旧 torch_xla。
推荐理由:官方详细披露了 TorchTitan TPU 的关键组件与实测 MFU 数据,读者可据此评估自家模型迁移到 Cloud TPU 的可行路径。