Lovable 接入 Fable 5.1,迭代修复现有代码库提升最高 17.2%
Lovable 宣布开始用 Fable 5.1 构建应用,内部基准显示其在迭代修复现有代码库任务上比 Fable 5 高出 11.9% 至 17.2%,每任务成本降低 31.4% 至 39.2%。
Lovable 宣布开始用 Fable 5.1 构建应用,内部基准显示其在迭代修复现有代码库任务上比 Fable 5 高出 11.9% 至 17.2%,每任务成本降低 31.4% 至 39.2%。
Transluce 发布迄今规模最大的独立心理健康评测,模拟 5 万余次对话、超 100 万条消息,测试 2024 年 5 月至 2026 年 7 月发布的 77 个模型变体,覆盖 OpenAI、Anthropic、Google DeepMind、DeepSeek、Moonshot AI 等。
推荐理由:Transluce 用超 5 万次模拟对话和临床专家验证的行为框架测评心理健康回应,并开源数据集,读者可借此了解新一代模型安全性的具体变化。
Fireworks AI 发布对 DeepSeek V4 Pro 0813 的评测,该模型在 SWE-Bench Verified 得 95.2%、LiveCodeBench v6 得 92.0%,均领先 Fable 5 和 Kimi K3,SWE-bench 单个解决任务成本 $0.309,约为 Fable 5($0.808)的三分之一。
推荐理由:Fireworks 用同一套评测对比 V4 Pro 与 Fable 5 和 Kimi K3,给出逐任务成本数据,并说明 Java 弱项和 oracle 路由的上限含义。
Fireworks AI 用 UC Berkeley 的 CyberGym 基准测试了 DeepSeek V4 Pro 0813、Kimi K3、GPT-5.5 和 Claude Opus 4.8 在真实漏洞攻防上的表现。
Together AI 在 DeepSWE 113 个任务、各 4 次试验共 904 次 rollout 上对比 GLM-5.3 与 Claude Fable 5。
推荐理由:基于 904 次 rollout 的逐任务原始数据对比两款编码模型,读者可以据此决定默认用哪个模型、以及何时值得为 Rust 和序列化任务多花钱。
Together AI 在 DeepSWE 全部 113 个任务上各跑 4 次试验、共 904 次 rollout,对比 GLM-5.3 (max) 与 GPT-5.6 Sol (max)。
推荐理由:原文用 904 次 rollout 对比两个模型在成本、失败模式和路由策略上的差异,给出了可复用的级联调用方案。
Together AI 在 DeepSWE 全部 113 个任务上实测 DeepSeek V4 Pro 0813 与 Claude Fable 5,共 904 次 rollout。
推荐理由:原文以 904 次 rollout 实测两个模型在 DeepSWE 的成本与质量差异,并给出可迁移的级联路由方案及其实测准确率和成本。
OpenAI 在 GPT-5.6 的八月更新中说明 GPT-5.6 Sol 和 GPT-5.6 Luna 的训练数据来源与安全措施,并首次引入面向 18 岁以下用户的 U18 专项评估,涵盖自残、饮食障碍、年龄限制商品和不当性内容等场景。
Together AI 在 DeepSWE 全部 113 个任务上各跑 4 次实测 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna,Luna pass@1 达 67.2%,约为 DeepSeek(53.3%)的 6 倍成本($0.61 对 $0.10)。
推荐理由:原文用同一跑分实测两款模型的成本与质量取舍,并给出可复用的级联组合方法,适合按技术栈选型的读者参考。
Browser Use 发布长文分析 Web Agent 基准中判官噪声的影响:同一批已完成运行,仅更换判官模型,最宽松判官报告 83.7%,最严格只有 62.5%,相差 21 分。文章提出让判官作为 Agent 检查整个 workspace、用百分比评分替代 pass/fail、跑三次取中位数等做法,并指出 Opus 5 在低推理档位比高档位低 88 分,调推理强度的影响超过换厂商。
OpenAI 发布 GPT-5.6 系统卡,将 GPT-5.6 家族三个模型 Sol、Luna、Terra 在生物化学领域预防性评估为 High 能力,未达 Critical。
推荐理由:OpenAI 官方系统卡给出 GPT-5.6 家族生物化学能力被评为 High 的依据、部署模拟预测方法和安全回归细节,可了解其安全评估如何运作。
Cognition 构建了模型可信度评测套件,用 145 个政治敏感问题测试宣传倾向,并在生产 harness 中用真实编码场景测试行为一致性。结果显示其基于 Kimi K2.7 Code 训练的 SWE-1.7 在三种语言下的宣传率和差分漏洞表现与 GPT 5.5、Claude Opus 4.8 相当或更优,明显好于开源基座模型,且未观察到随用户身份变化的安全行为差异。
OpenAI 发布 GPT-Live 系统卡,说明 GPT-Live-1 与 GPT-Live-1 mini 的训练数据、过滤流程及语音原生安全评测。8 月 4 日更正评测配置后重跑评测,GPT-Live-1 在非法行为上从 0.97 回归到 0.95,GPT-Live-1 mini 从 0.94 回归到 0.91,另有性内容与血腥内容分数下降,但均未低于安全上线标准。
Cognition 发布 FrontierCode 1.1,改进评测方法以区分合法联网(如查文档)与可能泄露答案的不公平联网。该版本审计了全部 1000+ 评分标准并放宽 75 条过严项,同时发布 Sonnet 5 分数和 Fable 5 更新分数。通过公平联网提示词加程序化检测双重保障,各模型不公平联网使用率降至 1% 以下。
OpenAI 发布 GPT-5.6 Preview 系统卡,覆盖 Sol、Luna、Terra 三个模型。用 ChatGPT 生产流量做部署模拟预测违规率,预计 GPT-5.6 Sol 每 10 万轮对话约 8.6 轮违反骚扰政策;相对 GPT-5.5,性类违规内容从 0.05% 升至 0.07%,心理健康类违规响应从 0.03% 降至 0.02%。
推荐理由:OpenAI 官方系统卡披露 GPT-5.6 家族被预防性列为生化 High 能力,并给出部署模拟的违规率预测方法与结果,读者可借此了解其安全评估口径。
OpenAI 用约 10 万条 WildChat 对话对 5 个模型重新生成回复,并以生产数据为基准验证,发现公开聊天数据能较准确预测部署中失当行为率,95% 预测误差在 1.04 OOM 内,约为 1.86 倍于用自身部署数据模拟的误差。
Zyphra 发布开源实时语音合成模型 ZONOS2,采用 MoE 架构,总参数 8B、激活参数 900M,Apache 2.0 许可,称其为首个开源 MoE TTS 模型。
推荐理由:官方同时放出权重、推理代码和自建评测集,还解释了 WER 与克隆保真度的权衡,读者可据此评估其语音克隆路线。
Cognition 发布 FrontierCode 基准,从正确性、测试质量、范围控制和代码风格等维度衡量模型产出能否被开源维护者合并。
推荐理由:原文给出新基准的评分方法与各家模型分数,读者可以据此了解现有模型在代码可合并性上的真实差距。
Zyphra 基于 Zyphra Cloud 发布了 Zyphra Inference 在 AMD Instinct MI355X 单节点上的首个端到端推理基准,对比对象包括 AMD MI355X 基线与 Nvidia B200 配置,测试模型为 Kimi K2.6、GLM 5.1 和 DeepSeek-V3.2,指标覆盖 TTFT 与输出吞吐。
OpenAI 发布 GPT-5.5 系统卡,将该模型在生物和化学领域评定为 High 能力并启动相应 Preparedness 防护。与 Gryphon Scientific 合建的未污染隐性知识测评中,GPT-5.5 Pro 在排除拒绝后得 81.67%,略超 80% 的专家共识基线。
推荐理由:OpenAI 官方系统卡给出了 GPT-5.5 的生物化学能力评级与 Apollo Research 第三方评估数据,读者可据此了解其安全边界。
OpenAI 发布首个完整版 Model Spec Evals,用于衡量模型遵循 Model Spec 的程度,包含 596 条提示词、覆盖 225 个关注点,并开源评测代码。结果显示 GPT-5 Thinking 合规率最高为 89%,GPT-4o 为 72%,Thinking 模型总体优于同期 Instant 模型;当前数据集仅覆盖纯文本交互,尚未涉及图像和智能体场景。
OpenAI 发布 GPT-5.4 Thinking 系统卡,将本次发布在生物与化学领域定为 High 能力并启用相应 Preparedness 安全保障。安全评测显示其在禁止内容评估上与 gpt-5.2-thinking 大体持平,在非法非暴力活动和自残评估上有统计显著改进,动态心理健康多轮评估全面优于此前模型。
推荐理由:系统卡披露 GPT-5.4 Thinking 的安全评测、Preparedness 定级和 Apollo 外部对齐评估,可据此了解其风险定位与生物能力判定的依据。
Cognition 分享正在训练中的 SWE-1.6 早期预览,当前 checkpoint 在 SWE-Bench Pro 上比 SWE-1.5 高 11%,速度同样为 950 tok/s,并向小部分用户开放早期访问。
推荐理由:Cognition 公开了训练方法细节和 Model UX 的权衡分析,读者可以借此了解 RL 训练编码模型的实际取舍。
Transluce 用其 trace 分析工具 Docent 诊断 GPT-5.1 Codex 在 Terminal-Bench 上落后 GPT-5 Codex 6.5 个百分点的回退原因。
Cognition 发布博文,介绍过去数周用 OpenAI o1-mini 和 o1-preview 测试 Devin 自主编码任务的结果。
Cognition 发布 Devin 的 SWE-bench 技术报告,Devin 端到端解决 13.86% 的 issue(570 个抽样中 79 个),远超此前无辅助基线 1.96%,也高于最强有辅助基线 Claude 2 的 4.80%。
推荐理由:原文给出完整评测方法和基线对比,读者可据此理解智能体在真实代码库任务上的表现与局限。