跳到正文
11月3日周二
  1. OpenAI:Alignment 研究博客62

    OpenAI 发布激活分类器技术报告,将其作为前沿模型的实时安全监控层

    OpenAI 介绍自 GPT-5.6 起在最强模型上训练并部署激活分类器(probes),利用模型内部激活在生成过程中逐 token 实时监测违规行为,可中断响应并阻止工具调用。实验显示 probes 对测试越狱攻击比基于文本的分类器更鲁棒,性能随被监控模型能力提升,并在多个后训练检查点间迁移良好;但依赖标注数据,需针对新基础模型重新训练,只能检测可显式训练的目标。

    推荐理由:OpenAI 官方披露激活分类器的架构与训练细节,并给出与文本分类器在越狱鲁棒性上的实测对比,可了解白盒安全监控的落地经验。

  2. PyTorch:Blog47

    Ray 宣布成立面向加速器的特别兴趣小组(SIG)

    Ray 宣布成立面向硬件加速器的特别兴趣小组(SIG),旨在联合硬件厂商、Ray 贡献者和应用开发者,制定厂商中立的加速器支持路线图。目前 Ray 已支持十余种加速器,涵盖 NVIDIA 与 AMD GPU、TPU、Trainium、Gaudi 等。初期路线图聚焦三个方向:开发与测试基础设施、硬件感知调度能力,以及网络/传输。

11月2日周一
11月1日周日
  1. OpenRouter:Announcements81

    OpenRouter 教程:用 Responses API 和 Linux 沙箱构建 AI 代码审查脚本

    OpenRouter 发布教程,提供一个 233 行 Python 脚本 review.py,通过 Responses API 的 Files、Shell 和 Apply Patch 工具在托管 Linux 沙箱中运行变更文件、验证 bug 并返回可应用的 V4A 补丁。

    推荐理由:官方给出完整可复用的 233 行审查脚本和四款模型的实测成本与耗时数据,读者可以按步骤把它接入 pre-push 钩子或 GitHub Actions。

10月31日周六
  1. Figma AI / Agent / Make60

    Figma 发布 Weave 平台,将 AI 图像与视频生成整合为可复用工作流

    Figma 于 10 月 31 日宣布 Figma Weave,把图像和视频的 AI 生成与编辑整理成画布上相互连接的节点工作流,支持分支探索、多模型对比和团队复用。

    推荐理由:官方详解 Figma Weave 的节点式工作流、分支探索和可复用工具,适合想把创意生产流程标准化复用的团队参考。

  2. OpenRouter:Announcements64

    OpenRouter 解析开放权重与闭源模型差异及使用趋势

    OpenRouter 发文解释开放权重与闭源模型的区别:开放权重模型发布权重,可自行下载、微调和部署;闭源模型只能经厂商及其授权云使用。

    推荐理由:OpenRouter 用自家流量和价格数据拆解开放权重与闭源模型的差距,读者可据此按价格和质量权衡做模型选型。

  3. Wiz:Research82

    Wiz Research 披露 AI 开发平台“黑色十月”攻击潮与被盗密钥转售链条

    Wiz Research 汇总十月至少 9 家 AI 开发平台披露的安全事件,包括 Fireworks AI、Zeabur、Lightning AI、Railway、Warp 等,后续又有 Chainstack、NEAR AI、Tensorlake 等加入,多起指向凭证窃取与 LLMJacking。

    推荐理由:原文汇总了十月多起 AI 开发平台入侵事件,并用两起真实案例拆解被盗密钥如何被转售滥用。

10月30日周五
  1. Sierra:Blog68

    Sierra 官宣 ARR 突破 $400M,单季新增超 $150M

    Sierra 官宣 ARR 突破 $400M,Q3 单季新增超 $150M,从 $200M 到 $400M 翻倍仅用五个月,快于此前从 $100M 到 $200M 的六个月。公司称已服务近 50% 的 Fortune 50 企业,并与 Meta、Shopify、Stripe、Walmart 等 50 多家企业共同开发个人智能体交互开放标准 Poppy,收费模式按成果而非 token 计费。

    推荐理由:官方披露了 Sierra 的 ARR 增长节奏和客户覆盖数据,读者可据此了解企业级 AI 客服智能体市场的商业化进展。

  2. Waymo:Blog61

    Toyota 与 Waymo 推进自动驾驶合作,2027 年在日本测试自动驾驶 bZ4X 车队

    Toyota 与 Waymo 宣布自动驾驶合作进入下一阶段,2027 年起在日本测试并验证自动驾驶 Toyota bZ4X 车队,随后计划部署到英国和其他 Waymo 运营市场。

    推荐理由:官方公告给出了落地时间、生产工厂和市场扩展计划,读者可以据此跟踪双方合作从协议走向实际运营的进度。

  3. OpenAI:Alignment 研究博客72

    OpenAI 详解前沿模型失准行为的监测系统

    OpenAI 官方博文介绍其针对前沿模型的失准行为监测系统,涵盖 L0 激活探针到 L3 自动化调查的多层架构,覆盖训练、评估、内部使用和部分外部部署。

    推荐理由:OpenAI 以当事方身份披露监测系统的分层架构、召回数据和真实案例,读者可以借此了解前沿模型失准行为检测的实际做法与局限。

10月29日周四
  1. Sakana AI:Blog46

    Sakana AI 用 AI 分析 X 上言论解读美国中期选举:得州参议院选情报报告

    Sakana AI 发布基于 X 平台约 71 万条反应和两党 2,042 条帖文的叙事分析报告,解读得克萨斯州参议院选举选情。分析发现 Paxton 初选前支持多来自党内动员,决选后支持率从约 5 成降至不足 2 成,且候选人评价的转折比 Cook Political Report 等机构的判断提前约 2 个月出现。

  2. Wiz:Research68

    Wiz 分析 agentic 攻击的兴起:真实案例与七条活动指纹

    Wiz 发布关于 agentic 攻击的研究,结合 ARTEX、Hermes 等公开事件与三起自家调查案例,总结出机器节奏迭代、脚本内嵌自然语言推理、自我修正、广度优先覆盖、多路径并发、先探测后攻击、自命名临时文件这七条指纹。文章认为此类攻击将加大溯源难度并突破人力规模限制,但其高噪声行为也为防守方提供了检测机会。

    推荐理由:Wiz 结合三个自家调查案例和公开事件,提炼出七条可操作的 agentic 攻击指纹,帮助防守者区分恶意活动与正常自动化。

  3. LangChain:Blog73

    LangChain 复盘如何构建并开源付费投放智能体

    LangChain 介绍其运行在 Slack 的付费投放智能体的构建经验:智能体每周合并广告平台与仓库数据、生成带 PDF 的分析报告,并可在审批卡中提议关键词、定向和搜索广告变更。

    推荐理由:官方复盘开源付费投放智能体的架构取舍,提供上下文分层、代码化计算、工具按需发现等可迁移设计经验。

  4. LangChain:Blog66

    LangChain 解析设计智能体 Content Studio 的构建方法并开源仓库

    LangChain 分享其设计智能体 Content Studio 的构建方法,该智能体在 Slack 中根据单条提示生成视频、图形、幻灯片等资产,全部用代码实现,基于 Managed Deep Agents 构建。

    推荐理由:原文完整拆解了如何用技能、环境和记忆让设计智能体学会团队审美,方法论可迁移到其他 Agent 项目。

  5. n8n Blog57

    n8n 内部自动化负责人详解团队如何跳出服务台模式

    n8n 内部 AI 与自动化负责人 Romina da Costa 撰文说明为何要将集中式自动化团队从服务台模式转向赋能模式。她指出公司已有超过 12000 条内部 workflow,任何团队都无法独自构建和维护,因此提出四项原则:培养各团队自行构建、立项前先建立现状基线、按问题选工具而非顺手工具、让交付的 workflow 具备可维护性,目标是让各团队不再依赖自动化团队。

  6. vLLM 官方博客75

    vLLM 实现 Mistral Large 4 首日支持,覆盖 NVIDIA、AMD 与 TPU

    vLLM 官方宣布对 Mistral 的 1T 参数、49B 激活的 MoE 原生多模态模型 Mistral Large 4 提供首日支持,提供 FP8 与 NVFP4 两种 checkpoint,通过 vllm/vllm-openai:mistral-large-4 Docker 镜像即可部署。

    推荐理由:官方详细拆解了 MoE、稀疏 MLA、DSpark 投机解码和 DCP 等实现细节与实测数据,读者可以据此评估这套 1T 多模态模型的部署收益。

  7. OpenRouter:Announcements73

    OpenRouter 教程:用 LLM 从 PDF 提取表格并避开两种静默失败

    OpenRouter 发布教程,讲解用严格 JSON schema 描述一行字段、把 PDF 表格提取为带类型行的方法,括号负数和脚注标记可交给字段描述处理。

    推荐理由:原文用五份 PDF 和 644 个单元格实测提取效果,并给出两种静默失败的检查方法,读者可直接复用这套 schema 和代码。