跳到正文
OpenRouter:Announcements·· 2 天前精选AI 评分62

OpenRouter 实测 LLM 量化:fp8 和 fp4 对质量与价格的影响

LLM Quantization: What fp8 and fp4 Do to Quality and Price

AI 导读

OpenRouter 发文解释 LLM 量化原理,并公布 2026 年 10 月 20 日对 1,455 个 provider 端点和 6 个 Qwen3.8 27B 端点的实测结果。

推荐理由

作者实测同一模型不同精度端点的准确率和价格,给出 provider.quantizations 的用法,可帮助读者按精度选更省钱的 API 端点。

来源:OpenRouter:Announcements · openrouter.ai