OpenAI：Alignment 研究博客· Hannah Sheahan and Micah Carroll·AI 评分58
OpenAI 验证 WildChat 公开聊天数据可预测模型真实部署中的失当行为率
Can public chat data predict real-world AI misalignments?
AI 导读
OpenAI 用约 10 万条 WildChat 对话对 5 个模型重新生成回复，并以生产数据为基准验证，发现公开聊天数据能较准确预测部署中失当行为率，95% 预测误差在 1.04 OOM 内，约为 1.86 倍于用自身部署数据模拟的误差。
来源：OpenAI：Alignment 研究博客 · alignment.openai.com