OpenRouter 实测 LLM 量化:fp8 和 fp4 对质量与价格的影响
OpenRouter 发文解释 LLM 量化原理,并公布 2026 年 10 月 20 日对 1,455 个 provider 端点和 6 个 Qwen3.8 27B 端点的实测结果。
推荐理由:作者实测同一模型不同精度端点的准确率和价格,给出 provider.quantizations 的用法,可帮助读者按精度选更省钱的 API 端点。
OpenRouter 发文解释 LLM 量化原理,并公布 2026 年 10 月 20 日对 1,455 个 provider 端点和 6 个 Qwen3.8 27B 端点的实测结果。
推荐理由:作者实测同一模型不同精度端点的准确率和价格,给出 provider.quantizations 的用法,可帮助读者按精度选更省钱的 API 端点。
OpenRouter 用 8 页自造扫描件实测 15 个视觉模型加 Mistral OCR 和 Tesseract,每模型 264 项关键值检查。Claude Opus 5.5 最准,262/264 正确,每千页 $16.42;Mistral OCR 得 258/264,仅 $2.02;Ling 3.0 Flash VL 关闭推理后 254/264,每千页 $0.04。
推荐理由:OpenRouter 用自造的 8 个测试页实测 16 个方案,给出准确率、成本和防幻觉的可行做法,读者可按自家文档场景对号选型。
Zyphra 发布 ZONOS3-Mini,一个零样本语音克隆 TTS 模型,采用稀疏 MoE 架构,1 亿活跃参数、8 亿总参数,Apache 2.0 许可,在 112 块 NVIDIA H100 上训练 2.5 天。
推荐理由:原文给出参数规模、端侧延迟数字和 ZTTS2-Eval 排名,开源权重与多端运行时可帮助读者评估实际部署成本。
Anthropic 与 Diode Computers 合作,让 Claude Fable 5.2 设计扬声器电话、语音助手中枢和手持电子宠物三款设备,模型完成了原理图、PCB 布局、3D 外壳、固件和物料清单,Diode 直接按其设计文件制造的三个原型均可运行。
推荐理由:官方实测记录了 Claude Fable 5.2 从原理图到固件完成三台设备设计的过程与基准分数,读者可以据此评估模型在硬件工程任务上的实际能力。
Artificial Analysis 评测 Meta 新模型 Muse Ember,其在 Intelligence Index 得 36 分,是达到该分数中每任务成本最低的模型(max 档 $0.14)。
推荐理由:原文给出 Muse Ember 与同价位模型在各基准和每任务成本上的对比数据,读者可据此评估其性价比与适用场景。
Thinking Machines 发布 Inkling 2 Small,Artificial Analysis Intelligence Index 得分 31,较 Inkling Small 提升 18 分,计划以 Apache 2.0 发布权重,若落地将成为中国以外得分最高的开源权重模型。
推荐理由:Artificial Analysis 给出独立跑分与成本细节,读者可对比 Gemini 3.8 Flash 等模型判断其智能体与编码能力定位。
Moonshot AI 的 Kimi K3.1 Pro 在发布当天即上线 Fireworks,支持 serverless 按 token 计费和专属部署两种方式。
推荐理由:Fireworks 官方给出了 K3.1 Pro 在多个生产级基准上的名次与定价细节,读者可据此评估其在长上下文和 Agent 场景的成本收益。
OpenAI 比较 GPT-5.6 Luna/Sol、GPT-6 Luna/Sol/Astra 和 GPT-6.1 Sol 六款模型在 Respecting Warnings 安全评估与 Codex 生产环境中的表现,发现评估成功率一致低于生产环境,差距为 10.2 到 37.4 个百分点。
推荐理由:OpenAI 用六款模型对比安全评估与生产环境行为,发现评估成功率反而更低,并指出评估目标误判是主要解释。
OpenRouter 通过 11 个隐藏测试编码任务、Claude Code 修 bug 任务和 GPQA Diamond、τ-bench 等跑分,给出三档 Claude 5.5 的选型建议。
推荐理由:OpenRouter 用同一批隐藏测试实测三档 Claude 5.5 的通过率与成本,结论可迁移到日常选型决策。
Pydantic AI 作者在 5 个小应用、8 个模型上跑了 5276 次分级评测,对比 code mode 开关的效果。长任务下成本 -58%、墙钟时间 -51%、成功数提升 16 分;200 项时节省 47%-75% 成本,成功率先从 62-79% 回到 92-100%。
推荐理由:原文用 5276 次受控评测给出 code mode 在长任务上的收益与短板数据,并指出真正节省的是每次请求中的 token 而非往返次数。
作者在 BU Bench V2.1 的 100 个公开任务上,用 Codex CLI 0.144.6 加 GPT-6 Luna 对比 Browser Harness、Playwright MCP、Chrome DevTools MCP、agent-browser 和 Browser MCP,分数均在噪声范围内持平(56.3 到 61.0)。
推荐理由:作者用统一代理和 BU Bench 100 个任务实测五款浏览器控制工具,给出 token、成本、速度和适用场景的可比数据。
Mistral 发布其首个时间序列基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四种规格。最大 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三个公开基准的预训练零样本模型中五项指标全部排名第一,28M 模型在 GIFT-Eval 和 TIME 上击败约四倍大小的 Chronos-2。
推荐理由:Mistral 发布首个时间序列基础模型系列,正文给出三个基准的成绩、CPU 推理延迟和可微调部署路径,读者可据此评估其落地方式。
Artificial Analysis 发布 AA-Robotics v0.1 研究预览基准,让前沿大模型在 coding agent 框架中直接控制一台 6 轴机械臂完成 8 项桌面任务。
推荐理由:原文公布了完整分任务得分、用时与成本数据,可据此比较各前沿模型在真实机械臂任务上的表现差距。
Mistral 发布 Mistral Large 4(ML4,昵称 le Chonk)公开预览,1 万亿参数、520 亿激活参数的原生多模态模型,预览 API 已在 Mistral Studio 开放,权重将于本月底发布。
推荐理由:官方给出具体基准数字、开放权重时间表和欧洲自建训练基础设施,读者可据此判断它在开源模型中的位置。
OpenRouter 推出 Model Router Benchmarks 页面,用质量、速度和成本基准对比多家模型路由器,并以顶尖单模型作基线。
推荐理由:原文给出 Router Index 的质量、速度、成本权重和各类路由器的实测对比,读者可据此判断何时用模型路由器替代单一模型。
Anthropic 员工 Thariq Shihipar 深入测试 Opus 5.5 和 Fable 5.1 的 effort 设置,分享在 Claude Code 中如何按任务选择档位。
推荐理由:作者结合自测和 Terminal-Bench 3.0 数据给出各 effort 档位的适用场景,读者可以直接套用这套任务分档方法。
Fireworks 发布 DeepSeek-V4.1-Flash 基准评测,在 DeepSWE 上以 74.34% pass@1 达到 GPT-6 Astra 级编码准确率,单任务成本 $0.43,约为 Astra 的 1/15。
推荐理由:Fireworks 用自家 DeepSWE 实测数据拆解成本结构,指出缓存命中而非输出才是 agent 开销主因,方法可迁移。
Sierra 开源 Hyper-𝜏-bench(论文名 𝜏^𝜏-bench),一个长程智能体评测,衡量模型不仅能当客服智能体、还能从证据中恢复规格、设计架构并构建可用智能体的能力。
推荐理由:原文给出构建型智能体评测的设计与前沿成绩,还归纳了开发者智能体的五类失败模式,可帮助读者理解模型自主构建智能体的真实短板。
OpenAI 发布 GPT-6 Astra 系统卡,将其在生物与化学领域按 High 能力预防性对待,但未达 Critical 阈值。
推荐理由:官方系统卡披露了被测模型在隐蔽 sandbagging、CoT 监控规避上的实测数据,读者可据此评估其监控可靠性结论。
Transluce 发布迄今规模最大的独立心理健康评测,模拟 5 万余次对话、超 100 万条消息,测试 2024 年 5 月至 2026 年 7 月发布的 77 个模型变体,覆盖 OpenAI、Anthropic、Google DeepMind、DeepSeek、Moonshot AI 等。
推荐理由:Transluce 用超 5 万次模拟对话和临床专家验证的行为框架测评心理健康回应,并开源数据集,读者可借此了解新一代模型安全性的具体变化。