跳到正文
11月3日周二
  1. OpenAI:Alignment 研究博客62

    OpenAI 发布激活分类器技术报告,将其作为前沿模型的实时安全监控层

    OpenAI 介绍自 GPT-5.6 起在最强模型上训练并部署激活分类器(probes),利用模型内部激活在生成过程中逐 token 实时监测违规行为,可中断响应并阻止工具调用。实验显示 probes 对测试越狱攻击比基于文本的分类器更鲁棒,性能随被监控模型能力提升,并在多个后训练检查点间迁移良好;但依赖标注数据,需针对新基础模型重新训练,只能检测可显式训练的目标。

    推荐理由:OpenAI 官方披露激活分类器的架构与训练细节,并给出与文本分类器在越狱鲁棒性上的实测对比,可了解白盒安全监控的落地经验。

  2. PyTorch:Blog47

    Ray 宣布成立面向加速器的特别兴趣小组(SIG)

    Ray 宣布成立面向硬件加速器的特别兴趣小组(SIG),旨在联合硬件厂商、Ray 贡献者和应用开发者,制定厂商中立的加速器支持路线图。目前 Ray 已支持十余种加速器,涵盖 NVIDIA 与 AMD GPU、TPU、Trainium、Gaudi 等。初期路线图聚焦三个方向:开发与测试基础设施、硬件感知调度能力,以及网络/传输。

11月2日周一
11月1日周日
  1. OpenRouter:Announcements81

    OpenRouter 教程:用 Responses API 和 Linux 沙箱构建 AI 代码审查脚本

    OpenRouter 发布教程,提供一个 233 行 Python 脚本 review.py,通过 Responses API 的 Files、Shell 和 Apply Patch 工具在托管 Linux 沙箱中运行变更文件、验证 bug 并返回可应用的 V4A 补丁。

    推荐理由:官方给出完整可复用的 233 行审查脚本和四款模型的实测成本与耗时数据,读者可以按步骤把它接入 pre-push 钩子或 GitHub Actions。

10月31日周六
  1. Figma AI / Agent / Make60

    Figma 发布 Weave 平台,将 AI 图像与视频生成整合为可复用工作流

    Figma 于 10 月 31 日宣布 Figma Weave,把图像和视频的 AI 生成与编辑整理成画布上相互连接的节点工作流,支持分支探索、多模型对比和团队复用。

    推荐理由:官方详解 Figma Weave 的节点式工作流、分支探索和可复用工具,适合想把创意生产流程标准化复用的团队参考。

  2. OpenRouter:Announcements64

    OpenRouter 解析开放权重与闭源模型差异及使用趋势

    OpenRouter 发文解释开放权重与闭源模型的区别:开放权重模型发布权重,可自行下载、微调和部署;闭源模型只能经厂商及其授权云使用。

    推荐理由:OpenRouter 用自家流量和价格数据拆解开放权重与闭源模型的差距,读者可据此按价格和质量权衡做模型选型。

  3. Wiz:Research82

    Wiz Research 披露 AI 开发平台“黑色十月”攻击潮与被盗密钥转售链条

    Wiz Research 汇总十月至少 9 家 AI 开发平台披露的安全事件,包括 Fireworks AI、Zeabur、Lightning AI、Railway、Warp 等,后续又有 Chainstack、NEAR AI、Tensorlake 等加入,多起指向凭证窃取与 LLMJacking。

    推荐理由:原文汇总了十月多起 AI 开发平台入侵事件,并用两起真实案例拆解被盗密钥如何被转售滥用。

  4. MIT News44

    MIT 推出 LLM Election Observatory,实时追踪 AI 聊天机器人对 2026 美国中期选举提问的回答

    MIT 研究团队推出 LLM Election Observatory 仪表盘,实时监测主流 AI 聊天机器人如何回答 2026 美国中期选举相关问题。该团队由 Adam Berinsky、Chara Podimata 和 Charles Stewart III 领导,每隔几天用固定问题重复测试各聊天机器人,追踪其回答随选举临近、用户位置、党派和身份等因素的变化。

10月30日周五
  1. Sierra:Blog68

    Sierra 官宣 ARR 突破 $400M,单季新增超 $150M

    Sierra 官宣 ARR 突破 $400M,Q3 单季新增超 $150M,从 $200M 到 $400M 翻倍仅用五个月,快于此前从 $100M 到 $200M 的六个月。公司称已服务近 50% 的 Fortune 50 企业,并与 Meta、Shopify、Stripe、Walmart 等 50 多家企业共同开发个人智能体交互开放标准 Poppy,收费模式按成果而非 token 计费。

    推荐理由:官方披露了 Sierra 的 ARR 增长节奏和客户覆盖数据,读者可据此了解企业级 AI 客服智能体市场的商业化进展。