OpenRouter 教程：用置信度阈值实现模型升级路由
OpenRouter 发布教程，讲解如何用置信度升级路由让便宜模型处理有把握的请求，低置信度请求才升级到更强模型。方法分五步：用 structured outputs 强制模型返回 0 到 1 的数值置信度字段，基于自身流量的分数段错误率设定阈值并权衡准确率、成本和延迟，在代码中路由低置信度请求，上线后持续监控分数分布、升级率和未升级答案的错误率并重新调参。
推荐理由：原文给出基于自报置信度做模型分级路由的五步方法，读者可以照此在自己的流量上校准阈值，降低推理成本。