OpenAI:Alignment 研究博客· Zoë Hitzig, Mitchell Gordon, Tyna Eloundou, Adam Kalai and Sandhini Agarwal·AI 评分52
OpenAI 发布 CoVal 数据集,从众包偏好中学习价值观感知评分条
CoVal: Learning values-aware rubrics from the crowd
AI 导读
OpenAI Alignment 团队发布 CoVal,一套将价值敏感提示与众包撰写的提示级评分条配对的实验性数据集,用于揭示人们对模型回复偏好的价值观原因。
来源:OpenAI:Alignment 研究博客 · alignment.openai.com