跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

130 条精选近 30 天 69 条共收录 573 条

更新

精选归档 · 第 2 页

11月6日周五第 21–40 条
  1. LangChain:Blog62

    LangChain 为 Managed Deep Agents 增加浏览器使用能力

    LangChain 为 Managed Deep Agents 增加浏览器使用能力,在 LangSmith 中无需自建基础设施即可构建可操作网页的智能体。通过 browser.py 导出 define_browser 即可启用,scope 支持 thread 与 user 共享登录态,空闲 10 分钟默认停止;网页登录可通过 browser_handoff 交给用户完成。

    推荐理由:官方介绍了给 Managed Deep Agents 加浏览器能力的配置与原理,读者可以直接照着在自己项目中启用。

  2. OpenClaw:Blog63

    OpenClaw 重构模型发现机制,新模型无需等版本更新即可用

    OpenClaw 官方宣布重构模型发现机制,解决此前 GPT-6.1 Sol 因内置 Codex 0.158.0 过旧而无法选中的问题。现在模型列表来自三处:每四小时自更新的托管目录(约 1000 个模型)、用户账号实际可用的模型列表,以及 PATH 上已安装的较新 Codex 二进制。

    推荐理由:官方复盘约五周和 80 个 PR 的模型发现机制重构,解释了发布滞后问题的成因与解法,对设计模型目录和版本握手有参考价值。

11月5日周四
  1. Cognition 模型 / Devin 博客61

    Cognition 发布编码模型 SWE-2 Flash

    Cognition 发布编码模型 SWE-2 Flash,基于 Inkling-Small 加入强化学习前的 mid-training 阶段,Terminal-Bench 4.0 从 0.9% 提升到 20.0%,FrontierCode 2.0 从 3.2% 提升到 24.0%,性能超过所有美国开放权重模型甚至 3 倍大的模型。

    推荐理由:原文给出训练方法、基准提升和安全分发的权属安排,读者可以据此评估它在低成本编码工作流中的位置。

11月4日周三
  1. Lovable Blog64

    Lovable 创始人复盘如何构建并多次重建 Lovable

    Lovable 创始人 Anton Osika 撰文复盘从 GPT Engineer 到 Lovable 的演进,平台用户已创建超过 7000 万个项目、代码库累计超过 10 万次 pull request。

    推荐理由:Lovable 创始人复盘多次重构智能体架构的取舍,读者可借鉴约束问题、控制执行、用知识文件替代微调等可迁移方法。

  2. vLLM 官方博客74

    vLLM 实现 Kimi K3.1 Pro 的 day-0 支持,覆盖多类硬件

    vLLM 官方博客宣布为月之暗面 2.8T 参数(104B 激活)的 Kimi K3.1 Pro 提供 day-0 支持,该开源 MoE 模型具备 1M token 上下文,并在 24 个全注意力层新增 Sparse Attention(DSA)。

    推荐理由:原文给出 K3.1 Pro 的 DSA 稀疏注意力细节和多平台 day-0 性能数据,读者可以据此评估长上下文与智能体服务的部署收益。

  3. Cognition 模型 / Devin 博客67

    Cognition 发布 2026 年 11 月安全实践指南,复盘 Binance 被盗与 Claude Code Cursor 扩展投毒等事件

    Cognition 发布安全实践指南,复盘近期重大安全事件并给出公司可立即执行的安全措施。文中回顾了朝鲜黑客通过假招聘和被篡改的安装程序入侵 Binance 工程师笔记本、窃取 6.34 亿美元等事件,以及 10 月 29 日 Cursor 披露的恶意 Claude Code Cursor 扩展,该扩展试图在开发者机器上植入持久后门,少于 5000 名用户安装。

    推荐理由:指南回顾了 Binance 被盗和 Claude Code Cursor 扩展被投毒等事件,并给出可立即执行到 30 天内完成的安全措施清单。

11月3日周二
  1. LangChain:Blog64

    LangChain 发布 Managed Deep Agents 公测,一条命令把 Agent 部署到 LangSmith

    LangChain 推出 Managed Deep Agents,目前在 LangSmith Cloud 公测,把深度 Agent 写成项目文件夹后用 mda deploy 一条命令部署,无需自建服务器和基础设施。

    推荐理由:原文给出从目录到部署的完整命令和各能力对应文件,读者可以照着评估自己搭建生产 Agent 的工作量。

  2. OpenAI:Alignment 研究博客62

    OpenAI 发布激活分类器技术报告,将其作为前沿模型的实时安全监控层

    OpenAI 介绍自 GPT-5.6 起在最强模型上训练并部署激活分类器(probes),利用模型内部激活在生成过程中逐 token 实时监测违规行为,可中断响应并阻止工具调用。实验显示 probes 对测试越狱攻击比基于文本的分类器更鲁棒,性能随被监控模型能力提升,并在多个后训练检查点间迁移良好;但依赖标注数据,需针对新基础模型重新训练,只能检测可显式训练的目标。

    推荐理由:OpenAI 官方披露激活分类器的架构与训练细节,并给出与文本分类器在越狱鲁棒性上的实测对比,可了解白盒安全监控的落地经验。

11月2日周一
10月31日周六
  1. OpenRouter:Announcements64

    OpenRouter 解析开放权重与闭源模型差异及使用趋势

    OpenRouter 发文解释开放权重与闭源模型的区别:开放权重模型发布权重,可自行下载、微调和部署;闭源模型只能经厂商及其授权云使用。

    推荐理由:OpenRouter 用自家流量和价格数据拆解开放权重与闭源模型的差距,读者可据此按价格和质量权衡做模型选型。

10月30日周五
  1. OpenAI:Alignment 研究博客72

    OpenAI 详解前沿模型失准行为的监测系统

    OpenAI 官方博文介绍其针对前沿模型的失准行为监测系统,涵盖 L0 激活探针到 L3 自动化调查的多层架构,覆盖训练、评估、内部使用和部分外部部署。

    推荐理由:OpenAI 以当事方身份披露监测系统的分层架构、召回数据和真实案例,读者可以借此了解前沿模型失准行为检测的实际做法与局限。

10月29日周四
  1. LangChain:Blog73

    LangChain 复盘如何构建并开源付费投放智能体

    LangChain 介绍其运行在 Slack 的付费投放智能体的构建经验:智能体每周合并广告平台与仓库数据、生成带 PDF 的分析报告,并可在审批卡中提议关键词、定向和搜索广告变更。

    推荐理由:官方复盘开源付费投放智能体的架构取舍,提供上下文分层、代码化计算、工具按需发现等可迁移设计经验。

  2. LangChain:Blog66

    LangChain 解析设计智能体 Content Studio 的构建方法并开源仓库

    LangChain 分享其设计智能体 Content Studio 的构建方法,该智能体在 Slack 中根据单条提示生成视频、图形、幻灯片等资产,全部用代码实现,基于 Managed Deep Agents 构建。

    推荐理由:原文完整拆解了如何用技能、环境和记忆让设计智能体学会团队审美,方法论可迁移到其他 Agent 项目。

  3. vLLM 官方博客75

    vLLM 实现 Mistral Large 4 首日支持,覆盖 NVIDIA、AMD 与 TPU

    vLLM 官方宣布对 Mistral 的 1T 参数、49B 激活的 MoE 原生多模态模型 Mistral Large 4 提供首日支持,提供 FP8 与 NVFP4 两种 checkpoint,通过 vllm/vllm-openai:mistral-large-4 Docker 镜像即可部署。

    推荐理由:官方详细拆解了 MoE、稀疏 MLA、DSpark 投机解码和 DCP 等实现细节与实测数据,读者可以据此评估这套 1T 多模态模型的部署收益。

  4. OpenRouter:Announcements73

    OpenRouter 教程:用 LLM 从 PDF 提取表格并避开两种静默失败

    OpenRouter 发布教程,讲解用严格 JSON schema 描述一行字段、把 PDF 表格提取为带类型行的方法,括号负数和脚注标记可交给字段描述处理。

    推荐理由:原文用五份 PDF 和 644 个单元格实测提取效果,并给出两种静默失败的检查方法,读者可直接复用这套 schema 和代码。