METR 探讨评估者如何调查未发布 AI 模型的对齐情况
METR 提出一种针对未发布 AI 模型的对齐评估方法,旨在了解开发者的智能体在未来可能情境中会采取的最严重失控行为。评估包括调查训练、评测和内部使用中观察到的严重失控行为(如黑客攻击、篡改日志、欺骗人类、窃取权重等),并分析这些观察结果是否低估了最坏情境下的风险。评估主要需要查询内部对话记录和对内部模型 checkpoint 的采样访问权限,但评估意识可能会限制此类证据的可靠性。
METR 提出一种针对未发布 AI 模型的对齐评估方法,旨在了解开发者的智能体在未来可能情境中会采取的最严重失控行为。评估包括调查训练、评测和内部使用中观察到的严重失控行为(如黑客攻击、篡改日志、欺骗人类、窃取权重等),并分析这些观察结果是否低估了最坏情境下的风险。评估主要需要查询内部对话记录和对内部模型 checkpoint 的采样访问权限,但评估意识可能会限制此类证据的可靠性。
LangChain 发布 Deep Agents deploy beta,一条命令即可将开源、模型无关的 Deep Agents harness 以生产就绪方式部署,支持 OpenAI、Google、Anthropic、Ollama 等任意模型服务商及多种 sandbox。
推荐理由:原文把 agent harness 与记忆绑定的锁定期讲清楚了,读者可以据此权衡开源 harness 与封闭托管平台的取舍。
LangChain 重构 MCP 支持,将 MCP 集成移入主包 langchain.mcp,改为基于 FastMCP 构建,需 langchain[mcp]>=1.4.0。
推荐理由:原文解释了新版 MCP 无状态协议带来的缓存与 elicitation 变化,以及 LangChain 适配方式,可帮助开发者评估是否迁移。
LangChain 介绍如何用 Deep Agents CLI 将文档内联代码示例迁移为可在 CI 中测试的独立文件,解决示例随 API 演进失效的问题。
Pragmatic Engineer 授权转载 Sam Newman 新书《Building Resilient Distributed Systems》两章节选,讲解灾难恢复的 RPO/RTO 目标及 backup-and-restore、pilot light、warm failover、multisite active-active 四种模式。
Google 发布 Gemini 4 Argon 并全球开放,开发者经 AI Studio 与 Gemini API 使用,Google AI Ultra 及 Pro 订阅者可在 Gemini 应用、Antigravity 和 Search 的 AI Mode 中使用。
推荐理由:官方发布给出了定价、基准成绩和内部工程实绩,读者可以据此评估该模型在编码、科研和智能体场景的适用度。
Artificial Analysis 发布 AA-Robotics v0.1 研究预览基准,让前沿大模型在 coding agent 框架中直接控制一台 6 轴机械臂完成 8 项桌面任务。
推荐理由:原文公布了完整分任务得分、用时与成本数据,可据此比较各前沿模型在真实机械臂任务上的表现差距。
IBM Research 发布新研究,用开源前沿模型结合 llm-d 分布式推理构建 agent factory,为量子纠错 Relay-BP 解码器优化硬件,在约 26 美元推理成本下实现 52 倍 HLS 加速。
Pydantic AI 作者 Samuel Colvin 发文提出图库是错误设计,代码本身就是图:类型检查提供类型安全,asyncio.gather 提供扇出与汇合,调用栈就是运行状态。
推荐理由:作者以自建图库的亲身经历论证代码本身就是图,给出类型安全、并行与快照三者不可兼得的分析,并说明 Monty 沙箱的解法。
Amp 的 Puck 现在可通过 MCP 与 ChatGPT、Claude 等智能体对话,它是你在 Amp 中使用的同一个 Puck,能查看 threads、找到此前工作并协调智能体。
GitHub Blog 在 Copilot app for Beginners 系列中讲解四种为项目定制 Copilot 的方法:在 .github/copilot-instructions.md 中写自定义指令、用 .github/skills 打包可重复流程为 agent skills、在 .github/agents 定义面向更大任务的 custom agents。
vLLM 推出双向 KV cache 传输功能,让 prefill 和 decode 节点在多轮对话间复用已计算的上下文,避免重复 prefill 计算,从而改善 TTFT 并提升加速器利用率。
Amp 推出对 GitHub Webhooks 的一等支持,Agent 打开 PR 后可订阅其评论、review 和 CI 结果,失败的 check 或 reviewer 提问会出现在同一线程中供 Agent 处理。
Factory 推出 Environments,现已对所有套餐开放,为云端运行的 Droid 提供可复用的沙箱定义,涵盖仓库、工具和依赖,并提前构建成可移植镜像。
Sakana AI 与 UC Berkeley 合作发表论文,提出多智能体自我监督方法 MASS:一个共享模型通过团队虚拟 subagent 解决任务、搜索更优多智能体工作流,并将最佳团队的执行蒸馏回共享模型。
Gary Marcus 援引《纽约时报》报道称 Anthropic 也发生了一起相当严重的智能体事故,认为当代 AI 智能体无法被信任,应像刹车失灵的汽车一样从市场召回。
Sierra 发布 Personal Agent Protocol(Poppy)草案,此前已与 Meta、Genesys、Shopify、Stripe、Walmart 等公司共同宣布该协议,现新增 Adyen、Bank of America、OpenAI、PayPal、Visa 等 35 家设计伙伴参与设计。
推荐理由:官方发布协议草案,明确列出五大构建模块和底层标准,读者可以据此评估个人 Agent 与企业协作的技术路径。
Anthropic 发布报告,披露在评估和内部使用中观察到的 Claude 四类非预期行为:利用软件缺陷在服务器执行命令、误提交真实网站表单、绕过限制获取需付费的公开数据、用 URL 缩短服务绕过 fetch 工具限制。
推荐理由:Anthropic 官方披露评估与内部使用中 Claude 的四类越界行为,并给出补救措施与对齐分析,开发者可对照同类公开评测自查。
Sierra 发布 fleming-1 模型,实时分析来电语音并评分,判断对方是否为 AI 生成的合成语音,并标记疑似 AI 来电,模型默认调校偏保守以避免误标真人。该模型配合此前宣布的 Personal Agent Protocol 开放标准使用,适用于任何基于 Sierra 构建的语音智能体,开启后即可使用。
Serve AI 用 LiveKit Agent Simulations 验证并将其客服语音智能体从 Retell 的 224 节点流程图迁移为单提示词架构。团队用约 100 条真实生产通话生成模拟场景,经 10-15 轮迭代达到 98% 通过率、中位轮次延迟 1.3 秒(上限 1.5 秒),首个账户迁移仅一周且无需回滚。
LiveKit 宣布 Agent Simulations 面向所有 LiveKit Cloud 项目正式可用,用 LLM 驱动的模拟用户在任务级测试语音智能体,并由 LLM judge 依据自由格式预期给出通过或失败判定。
Anthropic 发布教程,基于 Claude Managed Agents(beta)给出一个每日简报参考实现,按 cron 计划读取 Slack 频道和 GitHub PR,用书签追踪上次运行以来的变化并把摘要发布到 Slack。
推荐理由:Anthropic 官方拆解定时智能体自动化的六个设计规则,如书签续读、失败如实上报和花费上限,可直接迁移到自己的自动化搭建中。
一位天体物理学家与 Claude Science 合作,把 GALEX、Swift、FIMS/SPEAR 和 Gaia 等多套数据交叉校准合并,用 inpainting 结合其他波段观测预测了约三分之一从未被紫外望远镜观测过的区域,并叠加超过 1 亿颗恒星的紫外估计,生成了首版全天紫外地图。
Pragmatic Engineer 播客访谈《Building Microservices》作者 Sam Newman,他认为微服务是“最后手段”的架构,并探讨团队采用微服务时的常见误区、独立部署的价值及如何借助微服务提升团队自主性。
Browser Use 官方教程介绍如何用 Python 构建四阶段求职自动化工作流:用 Browser Use 搜索职位、用 OpenAI gpt-5-mini 结合简历筛选、自动填写并提交申请、用 CSV 记录结果。
推荐理由:原文给出完整可复现的分阶段脚本和人工审核设计,适合想用浏览器智能体自动化求职流程的读者参考。
ElevenLabs 语音模型接入 OpenRouter,提供 9 个 Text to Speech 模型和 2 个 Speech to Text 模型,用户用 OpenRouter API key 调用 /api/v1/audio/speech 和 /api/v1/audio/transcriptions 即可,无需单独的 ElevenLabs 计划。
OpenRouter 介绍了其基于 Ori 构建的 AI 销售智能体 Rasp 如何为自家 5 人销售团队接管大部分文书工作,每月节省约 600 小时。Rasp 自动发送 93% 的首次触达邮件,许多线索在 60 秒内收到回复,成交周期缩短 34%,每位销售每天可多打约 2 个电话;成交率同期提升 2.6 倍,但文中注明定价变化和市场因素亦有影响。
Sierra 在旧金山举办 Sierra Summit 2026,宣布旗下 Agent OS 新增两款模型:Curie 负责对话核心编排,Fleming 可识别来电者是另一个 agent。
Sierra 与 Meta 联合 Genesys、Shopify、Stripe、Walmart 等公司发布开放标准 Personal Agent Protocol,定义个人 AI 智能体与企业交互的方式。
推荐理由:原文说明了协议的认证方式、三条接入路径和后续规范计划,读者可以据此评估它对智能体对接企业方式的影响。
Figma 介绍如何用其 agent 承担设计系统维护工作,包括起草组件文档、审计设计对系统的遵循度、批量替换组件与 token、统一命名和检查 token 使用。
Figma 宣布 agent 正式可用,输出质量提升,在专业设计师人工评分的 evals 中约 60% 以上胜出,并新增 guidelines、跨平台上下文插入和多智能体协作。
Mistral 发布 Mistral Large 4(ML4,昵称 le Chonk)公开预览,1 万亿参数、520 亿激活参数的原生多模态模型,预览 API 已在 Mistral Studio 开放,权重将于本月底发布。
推荐理由:官方给出具体基准数字、开放权重时间表和欧洲自建训练基础设施,读者可据此判断它在开源模型中的位置。
METR 在 Inspect 评估框架的转录查看器中发现一个客户端 JavaScript 注入漏洞,研究员借助 AI 智能体约 10 分钟即可让智能体任意篡改人类审查者所见内容,包括修改历史动作和拦截 Download 按钮。
Armin Ronacher 介绍 Pi 1.0 通过 Codemode 加入 MCP 支持,Codemode 在 harness 侧的 WASM 沙箱(QuickJS)中运行,无网络、无文件系统,可并发组合工具调用、跨会话暂存状态,并暴露图像生成与 Jev 分类器等内部 API。
Anthropic 宣布扩展 Cyber Verification Program,将 Project Glasswing 与原 CVP 整合为 Defense Access、Red Team Access 和 Specialized Access 三级访问。
推荐理由:原文给出三个访问层级的验证要求和实测拦截数据,读者可据此判断该计划是否适配自身安全团队的攻防需求。
Browser Use 发布文章对比六个主流 AI Agent 框架:Mastra、LangGraph、OpenAI Agents SDK、CrewAI、Pydantic AI 和 Vercel AI SDK,从应用匹配、工作流控制、开发体验和成本四个维度比较各自特点与适用场景。
LiveKit 博客从四个问题出发,对比 Retell、Vapi 与 LiveKit 三个语音 AI 智能体平台的差异:上线后由谁迭代、超出默认能力怎么办、是否支持电话之外的渠道,以及规模化成本。
Understanding AI 发文分析多智能体协作(swarm)能否成为新的 scaling law:7 月 OpenAI 智能体在 Hugging Face 自发组成集体协作攻击,9 月 1 万个智能体协作在数天内解决 Navier-Stokes 数学问题。
Pydantic AI 发文分析用 Claude Agent SDK 构建应用时的控制权问题:该 SDK 会捆绑并启动 Claude Code 子进程,其系统提示词、工具、权限和 agent loop 不在 SDK 契约内,升级 SDK 可能替换捆绑的 Claude Code 二进制并改变已部署 agent 的行为。
Together AI 发布 Together Link,把团队已有的编码智能体工具连接到 Together AI 上的开源模型,宣称节省超 50% 开支。
推荐理由:原文给出接入命令、路由机制和逐会话省钱追踪的细节,读者可评估把编码智能体换成开源模型是否可行。