跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

130 条精选近 30 天 69 条共收录 573 条

更新

精选归档 · 第 4 页

10月15日周四第 61–80 条
  1. Anthropic:Claude.dev 开发者博客73

    Claude Code 团队如何做代码审查

    Anthropic 介绍 Claude Code 团队如何在机器承担大部分阅读后做代码审查。6 月至 9 月合并的 PR 翻倍、回退比例下降超 40%,Anthropic monorepo 每日变更数从 5 月约 2,500 升到 9 月超 30,000。

    推荐理由:Claude Code 团队完整披露了自己的多层代码审查流程和收敛数据,读者可以对照调整自己团队的 AI 代码审查做法。

  2. Together AI 研究与产品博客75

    Meta Muse Spark Open 上线 Together AI,面向智能体编码场景

    Meta 的 Muse Spark Open 开放权重模型已在 Together AI 上线,Together AI 是 Day 0 上线合作方。模型具备 1M token 上下文窗口、长程自主规划与子智能体协调、计算机使用与网页浏览、多模态输入和意图说明能力。

    推荐理由:原文给出了模型能力、定价和 API 用法,读者可据此评估它在智能体编程工作流中的实际落地价值。

10月14日周三
  1. vLLM 官方博客60

    vLLM 发布训练-推理逐位一致方案,DeepSeek-V4-Flash RL 训练 diff 降为 0

    vLLM 官方博客发布训练-推理一致性方案:训练前向直接调用 vLLM 推理内核并改造为逐位一致,在 DeepSeek-V4-Flash 100 步 RL 训练中每步 diff 为 0,rollout 吞吐达高性能基线的 91.3%,而基线 KL 从 2e-3 升至 29.9 且奖励回落。

    推荐理由:原文给出训练与推理逐位一致的完整方案和开源技能,读者可据此在新模型上复现真正的 on-policy RL。

  2. LangChain:Blog62

    LangChain 发布 Deep Agents deploy,主打无锁定开源 agent 部署方案

    LangChain 发布 Deep Agents deploy beta,一条命令即可将开源、模型无关的 Deep Agents harness 以生产就绪方式部署,支持 OpenAI、Google、Anthropic、Ollama 等任意模型服务商及多种 sandbox。

    推荐理由:原文把 agent harness 与记忆绑定的锁定期讲清楚了,读者可以据此权衡开源 harness 与封闭托管平台的取舍。

10月13日周二
  1. Pydantic AI 官方文章63

    Pydantic AI 作者提出代码即图,图库是错误的设计

    Pydantic AI 作者 Samuel Colvin 发文提出图库是错误设计,代码本身就是图:类型检查提供类型安全,asyncio.gather 提供扇出与汇合,调用栈就是运行状态。

    推荐理由:作者以自建图库的亲身经历论证代码本身就是图,给出类型安全、并行与快照三者不可兼得的分析,并说明 Monty 沙箱的解法。

  2. Anthropic:Research72

    Anthropic 发布自研版本控制系统 Scion,五个月内替代 git 支撑 3 万次每日代码合并

    Anthropic 详细介绍为智能体编码自建的版本控制系统 Scion,并称已在五个月内将 monorepo 完全从 git 迁移。2026 年 5 月 Anthropic 每天约合并 2,500 次代码变更,9 月已超过 30,000 次;主分支历史近 100 GB,每日约 2,500 万次代码 checkout。

    推荐理由:Anthropic 用自研版本控制系统的实测数据,展示了智能体规模下代码基础设施的瓶颈和可借鉴的改造思路。

10月8日周四
  1. Anthropic:Claude.dev 开发者博客70

    Anthropic 讲解如何用 Claude Managed Agents 构建高效的定时智能体自动化

    Anthropic 发布教程,基于 Claude Managed Agents(beta)给出一个每日简报参考实现,按 cron 计划读取 Slack 频道和 GitHub PR,用书签追踪上次运行以来的变化并把摘要发布到 Slack。

    推荐理由:Anthropic 官方拆解定时智能体自动化的六个设计规则,如书签续读、失败如实上报和花费上限,可直接迁移到自己的自动化搭建中。

  2. GitHub Blog · AI & ML65

    GitHub 发布 ModernBERT 通用密钥检测模型,将 push protection 扩展到非结构化密钥

    GitHub 推出与 Microsoft Applied Sciences 共同构建的 ModernBERT 微调分类器,可在上下文中评估候选密钥,单批耗时低于 2 毫秒,使 push protection 可阻止的密钥数量有望增加一倍以上。

    推荐理由:GitHub 用九个季度数据反驳开发者变粗心的说法,并给出将 push protection 扩展到非结构化密钥的模型与上线安排。

10月7日周三
  1. Browser Use63

    用 Python 和 Browser Use 自动化求职申请的完整教程

    Browser Use 官方教程介绍如何用 Python 构建四阶段求职自动化工作流:用 Browser Use 搜索职位、用 OpenAI gpt-5-mini 结合简历筛选、自动填写并提交申请、用 CSV 记录结果。

    推荐理由:原文给出完整可复现的分阶段脚本和人工审核设计,适合想用浏览器智能体自动化求职流程的读者参考。

10月6日周二
  1. Anthropic:Claude.dev 开发者博客80

    Claude Code 云端会话实战指南:并行任务、隔离机制与七种工作流

    Addy Osmani 发布 Claude Code 云端会话实操指南,实测在同一仓库 16 秒内并行启动三个会话,分别修复 flaky 测试、重写过期文档和改造 JSON logger,三会话分别耗时 61、65、72 秒,全部 87 秒内完成。

    推荐理由:作者用四个真实云会话实测并行修复、文档校对等任务,给出适用场景、隔离机制和常见坑,方法可直接迁移。

10月5日周一
  1. OpenRouter:Announcements62

    OpenRouter 对比四家 AI Agent 服务端代码执行工具并介绍自家沙箱

    OpenRouter 发布文章对比 OpenAI、Anthropic、Google 与 OpenRouter 四家的服务端代码执行工具,并介绍其 beta 版 openrouter:shell 与 openrouter:bash 工具,可为 Responses 和 Messages API 上的任意模型运行命令。

    推荐理由:OpenRouter 结合自家工具对比四家服务端代码执行沙箱的能力、限制与成本,读者可以据此判断自托管与托管方案的选择边界。

10月2日周五
  1. OpenRouter:Announcements63

    OpenRouter 讲解客服机器人 cheap-first 模型路由实践

    OpenRouter 发布教程,讲解客服机器人如何用 cheap-first 路由把常见 FAQ 交给便宜模型、对困难请求升级到更强模型。文章比较静态规则、分类器分诊和答案检查三种模式,指出错误回退由 OpenRouter 的 models 数组处理,而质量升级检查需应用自己实现,并给出 expected_cost 公式和升级率、全轮延迟等评估指标。

    推荐理由:原文给出三种低成本优先路由模式及成本公式和上线前评估指标,读者可以据此规划客服机器人的降本方案。