Numan 如何用 LangGraph 和 LangSmith 打造评测优先的 AI 健康教练 Nu
英国数字健康公司 Numan 分享其 AI 健康教练 Nu 的评测优先构建经验:Nu 基于 LangGraph,由 supervisor 调度领域专家子 Agent,评测直接运行在生产同一张图上。
英国数字健康公司 Numan 分享其 AI 健康教练 Nu 的评测优先构建经验:Nu 基于 LangGraph,由 supervisor 调度领域专家子 Agent,评测直接运行在生产同一张图上。
Google 发布 TorchTitan TPU 分支(github.com/google-pytorch/torchtitan),配合 TorchTPU 让 PyTorch 通过 torch.device("tpu") 原生使用 Cloud TPU,无需改写 JAX 或依赖旧 torch_xla。
推荐理由:官方详细披露了 TorchTitan TPU 的关键组件与实测 MFU 数据,读者可据此评估自家模型迁移到 Cloud TPU 的可行路径。
Firecrawl 发布了 @mastra/browser-firecrawl 的使用讲解,该浏览器提供方让 Mastra agent 通过 CDP 连接 Firecrawl 托管浏览器会话,无需本地运行 Chromium,默认提供 16 个浏览器工具。
Arm 使用 Google AI Edge Model Explorer 开发了多个开源适配器,支持 TOSA、VGF 和 PTE 模型格式,为边缘模型部署提供可视化调试。
Fireworks AI 宣布 11 月 30 日前免费开放 Muse Glimmer 30B 的 SFT 训练,并公布用其训练 tuned Glimmer 预测 Kalshi 已结算市场结果的配方。
n8n 博客发布教程,讲解如何用一台 NVIDIA DGX Spark(128GB 统一内存)本地承载完整 AI 工作流,经 LiteLLM 单一 OpenAI 兼容端点接入 n8n,全程不调用云 API。
推荐理由:n8n 官方实测在 DGX Spark 上离线跑通全栈 AI 工作流,给出吞吐数据和许可证陷阱,步骤可复现。
vLLM 详解如何用异步准备与 NIXL EP 让 Elastic Expert Parallelism 重配置实现近零停机,DeepSeek V4 Pro 从 16 到 20 GB200 GPU 的停机时间从 100 秒降至 0.82 秒,缩回 16 GPU 为 1.96 秒。
Browser Use 发布科普文章,讲解浏览器 Agent 是什么:由模型、harness 和浏览器三部分组成的循环,观察页面、选择动作、执行并检查结果直到达成目标。
Browser Use 作者把浏览器 MCP server 分为三类:本地逐步操控、云端浏览器、整任务交给 agent,并逐一给出推荐和注意事项,如 Playwright MCP 适合测试、Steel 支持人工接管登录。
推荐理由:作者按三类任务梳理 11 款浏览器 MCP server 的选型逻辑,并附自家实测的 token 成本与耗时对比,可直接用于选型。
Pydantic 团队讲述 9 月 1 日将 Logfire 的 GitHub Actions CI 迁移到 RunsOn 后的经验。8 月 CI 成本达 $18,200、runner 分钟数 1,230,264,9 月在用量增至 1,617,654 分钟的情况下总成本降到 $5,700。
vLLM 团队用 agent 辅助开发为 Kimi K3 构建了统一 CuTe DSL decode 路径,覆盖 attention、MoE 和跨 GPU 通信。
推荐理由:vLLM 官方详解 Kimi K3 的 CuTe DSL decode 优化与 fast-track 验证原则,给出了可复用的性能数字和协作流程设计。
LiveKit 发布生产级 AI 语音智能体构建指南,围绕自然对话、生产观测和可靠扩缩三大问题给出经验建议。要点包括单独测量首响应延迟、用 turn detector 处理轮次与打断、异步调用耗时工具,客户从 GPT-4.1 换到 Gemma 4 31B 在 p50 上省了 300–500ms;还建议为 STT、LLM、TTS 各阶段配置 fallback,并在上线前算清单次对话成本。
vLLM 团队详解在 AMD Instinct MI355X 上优化 Kimi K3 推理的工程实践。
Anthropic 介绍 Claude Code 团队如何在机器承担大部分阅读后做代码审查。6 月至 9 月合并的 PR 翻倍、回退比例下降超 40%,Anthropic monorepo 每日变更数从 5 月约 2,500 升到 9 月超 30,000。
推荐理由:Claude Code 团队完整披露了自己的多层代码审查流程和收敛数据,读者可以对照调整自己团队的 AI 代码审查做法。
LangChain 团队基于 LangSmith 实践解答 Agent 评测的常见问题,建议先读 trace 选定行为、用 10-20 个例子建数据集并跑基线。文章区分离线与在线评测,介绍代码评估器、LLM-as-a-judge、人工评审和成对比较四类评估器,并说明 Harbor 开源评测框架与 Terminal-Bench 的容器化基准用法。
Apple 机器学习研究发布教程,介绍用最新版 MLX 在 Mac Studio 上本地运行 Muse Spark Open(816B 参数,MoE)、Mistral Medium 3.5 和 Qwen 3.8。
推荐理由:Apple 官方给出多台 Mac Studio 跑大模型的并行方案与实测数据,读者可对照评估本地推理的可行配置。
Browser Use 官方博客对比 Browser Use 与 Firecrawl 的用例、定价和性能,结论是浏览器自动化选 Browser Use、网页抓取选 Firecrawl,两者也可在同一工作流中组合。
vLLM 官方博客发布训练-推理一致性方案:训练前向直接调用 vLLM 推理内核并改造为逐位一致,在 DeepSeek-V4-Flash 100 步 RL 训练中每步 diff 为 0,rollout 吞吐达高性能基线的 91.3%,而基线 KL 从 2e-3 升至 29.9 且奖励回落。
推荐理由:原文给出训练与推理逐位一致的完整方案和开源技能,读者可据此在新模型上复现真正的 on-policy RL。
vLLM 通过 PR #52228 为 Adaptive Verification(AV)新增在线拟合接受估计器,使缺少置信度头的 draft 模型(如 EAGLE、MTP、DFlash)也能使用该功能,通过 enable_adaptive_verification 开启。
LangChain 介绍如何用 Deep Agents CLI 将文档内联代码示例迁移为可在 CI 中测试的独立文件,解决示例随 API 演进失效的问题。
GitHub 介绍其用于 generic secret detection 的上下文感知分类器:采用两阶段流水线,先用 regex 高召回生成候选,再用微调的 ModernBERT 结合文件路径、变量名和周边代码区分真实凭据与占位符、test fixture 等 hard negatives。
Anthropic 详细介绍为智能体编码自建的版本控制系统 Scion,并称已在五个月内将 monorepo 完全从 git 迁移。2026 年 5 月 Anthropic 每天约合并 2,500 次代码变更,9 月已超过 30,000 次;主分支历史近 100 GB,每日约 2,500 万次代码 checkout。
推荐理由:Anthropic 用自研版本控制系统的实测数据,展示了智能体规模下代码基础设施的瓶颈和可借鉴的改造思路。
GitHub Blog 在 Copilot app for Beginners 系列中讲解四种为项目定制 Copilot 的方法:在 .github/copilot-instructions.md 中写自定义指令、用 .github/skills 打包可重复流程为 agent skills、在 .github/agents 定义面向更大任务的 custom agents。
IBM Research 讲解分布式推理如何在 vLLM、SGLang 等模型服务引擎之上协调集群级 LLM 推理流量。
vLLM 推出双向 KV cache 传输功能,让 prefill 和 decode 节点在多轮对话间复用已计算的上下文,避免重复 prefill 计算,从而改善 TTFT 并提升加速器利用率。
vLLM-Omni 用 torchada 让 Sand AI 的 MAGI-2 Preview(114B 总参数、每 token 约 6B 激活的音视频 MoE DiT)在摩尔线程 MTT S5000 上原生运行,仅需少量平台级改动,CUDA 版 Triton kernel 可直接复用。
Comfy 博客介绍如何把 FastVideo 的 FastH3 V2 检查点优化到在单张 RTX 5090(32GB 显存)上实时生成 448×256 的 15 秒视频。
Serve AI 用 LiveKit Agent Simulations 验证并将其客服语音智能体从 Retell 的 224 节点流程图迁移为单提示词架构。团队用约 100 条真实生产通话生成模拟场景,经 10-15 轮迭代达到 98% 通过率、中位轮次延迟 1.3 秒(上限 1.5 秒),首个账户迁移仅一周且无需回滚。
Anthropic 发布教程,基于 Claude Managed Agents(beta)给出一个每日简报参考实现,按 cron 计划读取 Slack 频道和 GitHub PR,用书签追踪上次运行以来的变化并把摘要发布到 Slack。
推荐理由:Anthropic 官方拆解定时智能体自动化的六个设计规则,如书签续读、失败如实上报和花费上限,可直接迁移到自己的自动化搭建中。
Google 介绍 Cloud Run 的自定义 URL 功能:部署应用时可免费认领易于记忆的全球可用子域名(如 my-cool-app.cloud.run),无需负载均衡器和 DNS 配置。Cloud Run 会自动处理 SSL/TLS 证书和全球路由,一条命令即可将代码变成可分享的在线应用,无需管理基础设施。
Browser Use 官方教程介绍如何用 Python 构建四阶段求职自动化工作流:用 Browser Use 搜索职位、用 OpenAI gpt-5-mini 结合简历筛选、自动填写并提交申请、用 CSV 记录结果。
推荐理由:原文给出完整可复现的分阶段脚本和人工审核设计,适合想用浏览器智能体自动化求职流程的读者参考。
OpenRouter 介绍了其基于 Ori 构建的 AI 销售智能体 Rasp 如何为自家 5 人销售团队接管大部分文书工作,每月节省约 600 小时。Rasp 自动发送 93% 的首次触达邮件,许多线索在 60 秒内收到回复,成交周期缩短 34%,每位销售每天可多打约 2 个电话;成交率同期提升 2.6 倍,但文中注明定价变化和市场因素亦有影响。
Inferact 与 vLLM 团队在 DeepSeek-V4.1-Flash 发布三周后,将 SemiAnalysis AgentX 基准性能较 day-0 提升约 5 倍,低并发提速 1.9 倍。
Addy Osmani 发布 Claude Code 云端会话实操指南,实测在同一仓库 16 秒内并行启动三个会话,分别修复 flaky 测试、重写过期文档和改造 JSON logger,三会话分别耗时 61、65、72 秒,全部 87 秒内完成。
推荐理由:作者用四个真实云会话实测并行修复、文档校对等任务,给出适用场景、隔离机制和常见坑,方法可直接迁移。
Browser Use 发布文章对比六个主流 AI Agent 框架:Mastra、LangGraph、OpenAI Agents SDK、CrewAI、Pydantic AI 和 Vercel AI SDK,从应用匹配、工作流控制、开发体验和成本四个维度比较各自特点与适用场景。
LiveKit 博客从四个问题出发,对比 Retell、Vapi 与 LiveKit 三个语音 AI 智能体平台的差异:上线后由谁迭代、超出默认能力怎么办、是否支持电话之外的渠道,以及规模化成本。
Pydantic AI 发文分析用 Claude Agent SDK 构建应用时的控制权问题:该 SDK 会捆绑并启动 Claude Code 子进程,其系统提示词、工具、权限和 agent loop 不在 SDK 契约内,升级 SDK 可能替换捆绑的 Claude Code 二进制并改变已部署 agent 的行为。
OpenRouter 发布文章对比 OpenAI、Anthropic、Google 与 OpenRouter 四家的服务端代码执行工具,并介绍其 beta 版 openrouter:shell 与 openrouter:bash 工具,可为 Responses 和 Messages API 上的任意模型运行命令。
推荐理由:OpenRouter 结合自家工具对比四家服务端代码执行沙箱的能力、限制与成本,读者可以据此判断自托管与托管方案的选择边界。
OpenRouter 发布教程,讲解客服机器人如何用 cheap-first 路由把常见 FAQ 交给便宜模型、对困难请求升级到更强模型。文章比较静态规则、分类器分诊和答案检查三种模式,指出错误回退由 OpenRouter 的 models 数组处理,而质量升级检查需应用自己实现,并给出 expected_cost 公式和升级率、全轮延迟等评估指标。
推荐理由:原文给出三种低成本优先路由模式及成本公式和上线前评估指标,读者可以据此规划客服机器人的降本方案。
OpenRouter 发布官方解析,把多模型编排拆成工作流编排、模型路由和提供商路由三层,指出 LangGraph 与 CrewAI 只覆盖第一层,OpenRouter 的 models 参数负责错误驱动的模型回退和提供商选择。