OpenAI:Alignment 研究博客· Melody Guan, Yuxiang Xie, Bowen Baker·· 23 天前AI 评分44
OpenAI 提出超越 g-mean² 的互补可监测性指标
Beyond g-mean²: complementary metrics for monitorability
AI 导读
OpenAI 在 Alignment 研究博客中为监控可监测性提出两个互补于 g-mean² 的指标:pair-matched 指标只在共享实例上比较模型,减少因模型相关实例选择带来的偏差;post-control integration 指标模拟监控门控的拒绝采样,估计部署坏输出的概率及重试的影响。
来源:OpenAI:Alignment 研究博客 · alignment.openai.com