Databricks 基准测试:Genie 借 Genie Ontology 实现 1.6 倍准确率、token 用量减半
Databricks 与 Turing 联合开发了一个企业数据智能体基准,在真实 Databricks 工作区中对比 Genie 与两个前沿智能体,以虚构英国能源公司 Calderwick Energy 的数据资产为题。
Databricks 与 Turing 联合开发了一个企业数据智能体基准,在真实 Databricks 工作区中对比 Genie 与两个前沿智能体,以虚构英国能源公司 Calderwick Energy 的数据资产为题。
OpenRouter 发文解释 LLM 量化原理,并公布 2026 年 10 月 20 日对 1,455 个 provider 端点和 6 个 Qwen3.8 27B 端点的实测结果。
推荐理由:作者实测同一模型不同精度端点的准确率和价格,给出 provider.quantizations 的用法,可帮助读者按精度选更省钱的 API 端点。
Wiz 研究团队介绍重启后的 Cyber Model Arena v3.9 基准设计原则,覆盖 26 个模型、4 个 harness、59 个智能体和 327 道挑战,每题 1,000 秒、三次尝试。
OpenRouter 用 8 页自造扫描件实测 15 个视觉模型加 Mistral OCR 和 Tesseract,每模型 264 项关键值检查。Claude Opus 5.5 最准,262/264 正确,每千页 $16.42;Mistral OCR 得 258/264,仅 $2.02;Ling 3.0 Flash VL 关闭推理后 254/264,每千页 $0.04。
推荐理由:OpenRouter 用自造的 8 个测试页实测 16 个方案,给出准确率、成本和防幻觉的可行做法,读者可按自家文档场景对号选型。
Artificial Analysis 与 Google DeepMind 合作发布 Multimodal Knowledge Agent (MKA) 基准,评估智能体处理架构图纸、工程示意图、临床扫描等复杂视觉文件并产出幻灯片、表格、报告等交付物。
Zyphra 发布 ZONOS3-Mini,一个零样本语音克隆 TTS 模型,采用稀疏 MoE 架构,1 亿活跃参数、8 亿总参数,Apache 2.0 许可,在 112 块 NVIDIA H100 上训练 2.5 天。
推荐理由:原文给出参数规模、端侧延迟数字和 ZTTS2-Eval 排名,开源权重与多端运行时可帮助读者评估实际部署成本。
Pydantic AI 团队比较 2026 年八个 Python agent harness SDK,评选 Pydantic AI Harness 为综合首选,其提供 80+ 能力、30+ 模型提供商、12 个沙箱和 9 个持久执行引擎。
Anthropic 与 Diode Computers 合作,让 Claude Fable 5.2 设计扬声器电话、语音助手中枢和手持电子宠物三款设备,模型完成了原理图、PCB 布局、3D 外壳、固件和物料清单,Diode 直接按其设计文件制造的三个原型均可运行。
推荐理由:官方实测记录了 Claude Fable 5.2 从原理图到固件完成三台设备设计的过程与基准分数,读者可以据此评估模型在硬件工程任务上的实际能力。
Artificial Analysis 评测 Meta 新模型 Muse Ember,其在 Intelligence Index 得 36 分,是达到该分数中每任务成本最低的模型(max 档 $0.14)。
推荐理由:原文给出 Muse Ember 与同价位模型在各基准和每任务成本上的对比数据,读者可据此评估其性价比与适用场景。
Artificial Analysis 推出 Endpoint Accuracy Index v1.1,同时新增 GLM-5.3 Flash 和 Muse Spark Open 的覆盖。
Artificial Analysis 发布 Decision Index v2,私有数据集占比从 25% 提升至 45%,并引入奖励正确答案与校准置信度的 Decision Score。
Browser Use 团队对 Decodo、Oxylabs、Floppydata、Roundproxies、Byteful、DataImpulse、Webshare 七家轮换住宅代理做了浏览器 Agent 任务实测,涵盖商品研究、文本提取、表单提交和五分钟闲置后会话恢复。
Gradium 团队在 Phonon 开放两周后复盘这次发布,介绍这款在设备本地运行、无需网络和服务器的小型 TTS 模型。
Thinking Machines 发布 Inkling 2 Small,Artificial Analysis Intelligence Index 得分 31,较 Inkling Small 提升 18 分,计划以 Apache 2.0 发布权重,若落地将成为中国以外得分最高的开源权重模型。
推荐理由:Artificial Analysis 给出独立跑分与成本细节,读者可对比 Gemini 3.8 Flash 等模型判断其智能体与编码能力定位。
Artificial Analysis 报道,BOSS 直聘旗下 Nanbeige 发布开源权重推理模型 Nanbeige4.3-33B,在 Artificial Analysis Intelligence Index v5 上得 20 分,与 Qwen3.8 27B (xhigh) 持平。
Moonshot AI 的 Kimi K3.1 Pro 在发布当天即上线 Fireworks,支持 serverless 按 token 计费和专属部署两种方式。
推荐理由:Fireworks 官方给出了 K3.1 Pro 在多个生产级基准上的名次与定价细节,读者可据此评估其在长上下文和 Agent 场景的成本收益。
OpenAI 比较 GPT-5.6 Luna/Sol、GPT-6 Luna/Sol/Astra 和 GPT-6.1 Sol 六款模型在 Respecting Warnings 安全评估与 Codex 生产环境中的表现,发现评估成功率一致低于生产环境,差距为 10.2 到 37.4 个百分点。
推荐理由:OpenAI 用六款模型对比安全评估与生产环境行为,发现评估成功率反而更低,并指出评估目标误判是主要解释。
OpenRouter 通过 11 个隐藏测试编码任务、Claude Code 修 bug 任务和 GPQA Diamond、τ-bench 等跑分,给出三档 Claude 5.5 的选型建议。
推荐理由:OpenRouter 用同一批隐藏测试实测三档 Claude 5.5 的通过率与成本,结论可迁移到日常选型决策。
Pydantic AI 作者在 5 个小应用、8 个模型上跑了 5276 次分级评测,对比 code mode 开关的效果。长任务下成本 -58%、墙钟时间 -51%、成功数提升 16 分;200 项时节省 47%-75% 成本,成功率先从 62-79% 回到 92-100%。
推荐理由:原文用 5276 次受控评测给出 code mode 在长任务上的收益与短板数据,并指出真正节省的是每次请求中的 token 而非往返次数。
Cognition 发布 FrontierCode 2.0 编码基准,由开源维护者按输出是否可合并评分,任务来自多 55% 的仓库,参考解平均改动文件多 67%、代码行多 89%。
IBM 与 Kaggle 合作推出 ScarfBench 持续更新的公开排行榜,评估编码智能体能否将企业 Java 应用在 Jakarta EE、Quarkus、Spring 框架间迁移并保持行为正确。
CMU 与 Browser Use 联合发布长时程 web agent 基准 Odysseys2,包含 100 个真实网页长任务,每个任务按 8 到 12 项 pass/fail 检查评分。
Browser Use 官方对比其与 Browserless 两大浏览器自动化平台。
Sierra 推出 𝜏-Entity 基准,用 200 个任务、10 类实体测试语音智能体能否正确捕捉并修复姓名、电话、地址、邮箱等细节。GPT Live 1 常规通话正确率 60.3%,但三种条件全部通过仅 34.0%;预设验证策略可将通过率提升 14–31 个百分点,代价是每次通话多 21–28 秒,且被验证的初始错误中只有 24–37% 最终被纠正。
Sierra 推出 𝜏-i18n,将 𝜏-Voice 语音智能体评测扩展到西班牙语、巴西葡萄牙语、印地语、韩语和普通话五种语言,任务、策略与成功标准保持不变以便跨语言比较。
作者在 BU Bench V2.1 的 100 个公开任务上,用 Codex CLI 0.144.6 加 GPT-6 Luna 对比 Browser Harness、Playwright MCP、Chrome DevTools MCP、agent-browser 和 Browser MCP,分数均在噪声范围内持平(56.3 到 61.0)。
推荐理由:作者用统一代理和 BU Bench 100 个任务实测五款浏览器控制工具,给出 token、成本、速度和适用场景的可比数据。
vLLM 团队详解在 AMD Instinct MI355X 上优化 Kimi K3 推理的工程实践。
Mistral 发布其首个时间序列基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四种规格。最大 209M 模型在 GIFT-Eval、TIME 和 fev-bench 三个公开基准的预训练零样本模型中五项指标全部排名第一,28M 模型在 GIFT-Eval 和 TIME 上击败约四倍大小的 Chronos-2。
推荐理由:Mistral 发布首个时间序列基础模型系列,正文给出三个基准的成绩、CPU 推理延迟和可微调部署路径,读者可据此评估其落地方式。
Browser Use 官方博客对比 Browser Use 与 Firecrawl 的用例、定价和性能,结论是浏览器自动化选 Browser Use、网页抓取选 Firecrawl,两者也可在同一工作流中组合。
Artificial Analysis 发布 AA-Robotics v0.1 研究预览基准,让前沿大模型在 coding agent 框架中直接控制一台 6 轴机械臂完成 8 项桌面任务。
推荐理由:原文公布了完整分任务得分、用时与成本数据,可据此比较各前沿模型在真实机械臂任务上的表现差距。
Mistral 发布 Mistral Large 4(ML4,昵称 le Chonk)公开预览,1 万亿参数、520 亿激活参数的原生多模态模型,预览 API 已在 Mistral Studio 开放,权重将于本月底发布。
推荐理由:官方给出具体基准数字、开放权重时间表和欧洲自建训练基础设施,读者可据此判断它在开源模型中的位置。
GitHub 发布 AI 代码审查离线基准 ReviewBench,语料基于 103.9M 真实 pull request 的分布,含 19 种语言的 219 个公开 PR,数据集、评判标准和 runner 全部公开。
OpenRouter 推出 Model Router Benchmarks 页面,用质量、速度和成本基准对比多家模型路由器,并以顶尖单模型作基线。
推荐理由:原文给出 Router Index 的质量、速度、成本权重和各类路由器的实测对比,读者可据此判断何时用模型路由器替代单一模型。
Browser Use 对比 Browser Use、KERNEL、Browserbase、Steel、Browserless、Anchor 和 Hyperbrowser 七家浏览器基础设施服务商,数据均取自各家定价页和文档,核对于 2026 年 10 月 27 日。
Anthropic 员工 Thariq Shihipar 深入测试 Opus 5.5 和 Fable 5.1 的 effort 设置,分享在 Claude Code 中如何按任务选择档位。
推荐理由:作者结合自测和 Terminal-Bench 3.0 数据给出各 effort 档位的适用场景,读者可以直接套用这套任务分档方法。
Fireworks AI 发布 Specialized Intelligence Index(SII),汇集开放、闭源和专业模型在真实工作基准上的表现,首批覆盖医疗、法律、网络安全、金融、客服、生产力和软件七个领域。
Browser Use 与 Browserbase 两大浏览器智能体基础设施平台对比:Browser Use 按量计费无需订阅,browser hour 为 $0.02/h、代理 $5/GB。
Fireworks 发布 DeepSeek-V4.1-Flash 基准评测,在 DeepSWE 上以 74.34% pass@1 达到 GPT-6 Astra 级编码准确率,单任务成本 $0.43,约为 Astra 的 1/15。
推荐理由:Fireworks 用自家 DeepSWE 实测数据拆解成本结构,指出缓存命中而非输出才是 agent 开销主因,方法可迁移。
Sierra 开源 Hyper-𝜏-bench(论文名 𝜏^𝜏-bench),一个长程智能体评测,衡量模型不仅能当客服智能体、还能从证据中恢复规格、设计架构并构建可用智能体的能力。
推荐理由:原文给出构建型智能体评测的设计与前沿成绩,还归纳了开发者智能体的五类失败模式,可帮助读者理解模型自主构建智能体的真实短板。
OpenAI 发布 GPT-6 Astra 系统卡,将其在生物与化学领域按 High 能力预防性对待,但未达 Critical 阈值。
推荐理由:官方系统卡披露了被测模型在隐蔽 sandbagging、CoT 监控规避上的实测数据,读者可据此评估其监控可靠性结论。