跳到正文

内容类型

评测基准 最新动态

模型到底谁更强:Benchmark 评测成绩、评测方法的争议与排行榜变化。

35 条精选近 30 天 14 条共收录 114 条

更新

精选归档 · 第 2 页

8月31日周一第 21–35 条
  1. Transluce68

    Transluce 发布心理健康危机响应评测:5 万次模拟对话对比 77 个模型

    Transluce 发布迄今规模最大的独立心理健康评测,模拟 5 万余次对话、超 100 万条消息,测试 2024 年 5 月至 2026 年 7 月发布的 77 个模型变体,覆盖 OpenAI、Anthropic、Google DeepMind、DeepSeek、Moonshot AI 等。

    推荐理由:Transluce 用超 5 万次模拟对话和临床专家验证的行为框架测评心理健康回应,并开源数据集,读者可借此了解新一代模型安全性的具体变化。

8月26日周三
  1. Fireworks AI74

    Fireworks 评测 DeepSeek V4 Pro 0813:SWE-Bench 95.2%,单任务成本约为 Fable 5 的三分之一

    Fireworks AI 发布对 DeepSeek V4 Pro 0813 的评测,该模型在 SWE-Bench Verified 得 95.2%、LiveCodeBench v6 得 92.0%,均领先 Fable 5 和 Kimi K3,SWE-bench 单个解决任务成本 $0.309,约为 Fable 5($0.808)的三分之一。

    推荐理由:Fireworks 用同一套评测对比 V4 Pro 与 Fable 5 和 Kimi K3,给出逐任务成本数据,并说明 Java 弱项和 oracle 路由的上限含义。

8月21日周五
8月17日周一
8月6日周四
  1. Together AI 研究与产品博客71

    Together AI 实测 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna 的 DeepSWE 成本与编码表现

    Together AI 在 DeepSWE 全部 113 个任务上各跑 4 次实测 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna,Luna pass@1 达 67.2%,约为 DeepSeek(53.3%)的 6 倍成本($0.61 对 $0.10)。

    推荐理由:原文用同一跑分实测两款模型的成本与质量取舍,并给出可复用的级联组合方法,适合按技术栈选型的读者参考。

7月11日周六
  1. Timothy B. Lee:Understanding AI82

    OpenAI 模型在 AtCoder 世界总决赛两个赛道全面超越人类顶级选手

    2026 年 AtCoder 世界总决赛上,OpenAI 模型在启发式赛道“彻底击溃”人类选手,Psyho 估算人类至少还需数天才能追上其分数;次日算法赛道 7 小时内解出全部 5 题,包括 12 名人类顶尖选手无一解出的 2 题,主办方为其颁发了两个“人类投降”奖。作者认为这可能是人类最后一次有机会在与顶级 AI 模型的编程竞赛中取胜。

    推荐理由:作者采访去年击败 AI 的冠军 Psyho,给出 2026 年 OpenAI 模型在两个赛道的具体表现和冠军本人的差距估算。

7月9日周四
  1. OpenAI:部署安全与系统卡78

    OpenAI 发布 GPT-5.6 系统卡,将 Sol、Luna、Terra 生物化学能力评估为 High

    OpenAI 发布 GPT-5.6 系统卡,将 GPT-5.6 家族三个模型 Sol、Luna、Terra 在生物化学领域预防性评估为 High 能力,未达 Critical。

    推荐理由:OpenAI 官方系统卡给出 GPT-5.6 家族生物化学能力被评为 High 的依据、部署模拟预测方法和安全回归细节,可了解其安全评估如何运作。

6月26日周五
  1. OpenAI:部署安全与系统卡67

    OpenAI 发布 GPT-5.6 Preview 系统卡:生化能力按 High 预防性处理

    OpenAI 发布 GPT-5.6 Preview 系统卡,覆盖 Sol、Luna、Terra 三个模型。用 ChatGPT 生产流量做部署模拟预测违规率,预计 GPT-5.6 Sol 每 10 万轮对话约 8.6 轮违反骚扰政策;相对 GPT-5.5,性类违规内容从 0.05% 升至 0.07%,心理健康类违规响应从 0.03% 降至 0.02%。

    推荐理由:OpenAI 官方系统卡披露 GPT-5.6 家族被预防性列为生化 High 能力,并给出部署模拟的违规率预测方法与结果,读者可借此了解其安全评估口径。

6月12日周五
  1. Zyphra Research68

    Zyphra 发布 Apache 2.0 开源实时 TTS 模型 ZONOS2

    Zyphra 发布开源实时语音合成模型 ZONOS2,采用 MoE 架构,总参数 8B、激活参数 900M,Apache 2.0 许可,称其为首个开源 MoE TTS 模型。

    推荐理由:官方同时放出权重、推理代码和自建评测集,还解释了 WER 与克隆保真度的权衡,读者可据此评估其语音克隆路线。

6月9日周二
4月23日周四
  1. OpenAI:部署安全与系统卡77

    OpenAI 发布 GPT-5.5 系统卡,评定生物化学领域为 High 能力

    OpenAI 发布 GPT-5.5 系统卡,将该模型在生物和化学领域评定为 High 能力并启动相应 Preparedness 防护。与 Gryphon Scientific 合建的未污染隐性知识测评中,GPT-5.5 Pro 在排除拒绝后得 81.67%,略超 80% 的专家共识基线。

    推荐理由:OpenAI 官方系统卡给出了 GPT-5.5 的生物化学能力评级与 Apollo Research 第三方评估数据,读者可据此了解其安全边界。

3月5日周四
  1. OpenAI:部署安全与系统卡68

    OpenAI 发布 GPT-5.4 Thinking 系统卡,评估安全表现与 Preparedness 定级

    OpenAI 发布 GPT-5.4 Thinking 系统卡,将本次发布在生物与化学领域定为 High 能力并启用相应 Preparedness 安全保障。安全评测显示其在禁止内容评估上与 gpt-5.2-thinking 大体持平,在非法非暴力活动和自残评估上有统计显著改进,动态心理健康多轮评估全面优于此前模型。

    推荐理由:系统卡披露 GPT-5.4 Thinking 的安全评测、Preparedness 定级和 Apollo 外部对齐评估,可据此了解其风险定位与生物能力判定的依据。

3月1日周日
  1. Cognition 模型 / Devin 博客64

    Cognition 发布 SWE-1.6 早期预览并分享研究进展

    Cognition 分享正在训练中的 SWE-1.6 早期预览,当前 checkpoint 在 SWE-Bench Pro 上比 SWE-1.5 高 11%,速度同样为 950 tok/s,并向小部分用户开放早期访问。

    推荐理由:Cognition 公开了训练方法细节和 Model UX 的权衡分析,读者可以借此了解 RL 训练编码模型的实际取舍。

2024年3月15日周五
  1. Cognition 模型 / Devin 博客73

    Cognition 发布 Devin 的 SWE-bench 技术报告,解决率达 13.86%

    Cognition 发布 Devin 的 SWE-bench 技术报告,Devin 端到端解决 13.86% 的 issue(570 个抽样中 79 个),远超此前无辅助基线 1.96%,也高于最强有辅助基线 Claude 2 的 4.80%。

    推荐理由:原文给出完整评测方法和基线对比,读者可据此理解智能体在真实代码库任务上的表现与局限。