OpenRouter:Announcements·· 16 天前精选AI 评分69
OpenRouter 重构提供商路由算法,TTFT 降低 16.9%、429 错误减少 46%
How we rebuilt provider routing for better, faster inference
AI 导读
OpenRouter 宣布自创立以来最大的一次路由算法升级,默认路由不再只按输入价格排序,而是综合有效价格、吞吐量、TTFT、限流与错误率、输出质量计算实时 Routing Cost 来分配流量。
推荐理由
OpenRouter 官方详解新路由算法的计分方式,并附上基于 2400 万请求的实验数据,读者可据此评估对自身推理成本与速度的影响。
来源:OpenRouter:Announcements · openrouter.ai