跳到正文
10月29日周四
10月28日周三
  1. OpenRouter:Announcements69

    OpenRouter 重构提供商路由算法,TTFT 降低 16.9%、429 错误减少 46%

    OpenRouter 宣布自创立以来最大的一次路由算法升级,默认路由不再只按输入价格排序,而是综合有效价格、吞吐量、TTFT、限流与错误率、输出质量计算实时 Routing Cost 来分配流量。

    推荐理由:OpenRouter 官方详解新路由算法的计分方式,并附上基于 2400 万请求的实验数据,读者可据此评估对自身推理成本与速度的影响。

  2. NVIDIA Technical Blog:Agentic AI / Generative AI42

    NVIDIA CUDA 13.4 在 Kubernetes 中实现基于内存的 GPU 共享

    NVIDIA 技术博客讲解如何在 Kubernetes 中利用 CUDA 13.4 实现基于内存的 GPU 共享,让只占少量 GPU 资源的 AI 工作负载不必独占整块设备,从而提升利用率。文章介绍了 NVIDIA GPU 已支持的多种共享方式,包括将 GPU 切分为硬件隔离实例、对应用透明的 Multi-instance GPU(MIG),帮助平台团队用现有基础设施服务更多工作负载。

10月27日周二
  1. Amp Chronicle53

    Amp 发布 Android 应用

    Amp 官方宣布推出 Android 应用,可从 ampcode.com/app 下载安装或扫描二维码。应用内可查看设计讨论线程、Portals 标签页中的幻灯片以及 Changes 标签页中的 present.js 代码改动。

10月26日周一
  1. Google Developers Blog65

    Google Docs 和 Drive 原生支持 Markdown(.md)文件预览、编辑与协作

    Google Workspace 宣布 Markdown(.md)文件可在 Google Docs 中原生查看、编辑和协作,无需转换文件格式,并已在 Drive 中提供渲染预览。文件保留 .md 徽标和底层格式以兼容开发者工具和 git 仓库,支持人类与 AI 智能体实时协同编辑、行级评论和完整版本历史;任何 Google 或 Workspace 账号均可立即使用。

    推荐理由:官方说明了 .md 文件可在 Google Docs 原生编辑与协作的细节,开发者可评估其与 git 和 AI 智能体工作流的衔接方式。

10月24日周六
10月23日周五
  1. vLLM 官方博客74

    vLLM 实现 MiniMax-M3.1-Flash Day-0 支持

    vLLM 在发布当天为 MiniMax-M3 系列新模型 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。

    推荐理由:原文给出了多平台内核优化细节和 AgentX 实测吞吐数据,读者可以据此评估该模型在不同 GPU 上的部署性价比。

10月22日周四
10月21日周三
10月20日周二
  1. Google Developers Blog69

    Google 发布基于 TorchTPU 的 vLLM 与 SGLang 原生 PyTorch 推理引擎

    Google 在 PyTorch 相关发布中推出面向 TPU 的 vLLM-TorchTPU 和 SGLang-TorchTPU 推理引擎,分别与 Inferact、RadixArk 合作开发,基于让 TPU 成为原生 PyTorch 设备的 TorchTPU。

    推荐理由:官方披露 TorchTPU 架构设计与公开基准结果,读者可以据此评估在 TPU 上用 PyTorch 生态做推理的可行路径。

  2. Fireworks AI76

    Meta 开源权重模型 Muse Spark Open 在 Fireworks 开放 Day-0 服务

    Meta 的开源权重模型 Muse Spark Open 于 Fireworks 提供 Day-0 无服务器服务,为 816B 参数 MoE 模型,每 token 激活 42B 参数,上下文窗口 1M token,面向长程编码与智能体任务。

    推荐理由:原文汇总了多个第三方基准的实测分数,读者可以据此评估这个开源权重模型在法律、金融等专业场景的可用性。

10月19日周一