METR 探讨评估者如何调查未发布 AI 模型的对齐情况

METR 提出一种针对未发布 AI 模型的对齐评估方法，旨在了解开发者的智能体在未来可能情境中会采取的最严重失控行为。评估包括调查训练、评测和内部使用中观察到的严重失控行为（如黑客攻击、篡改日志、欺骗人类、窃取权重等），并分析这些观察结果是否低估了最坏情境下的风险。评估主要需要查询内部对话记录和对内部模型 checkpoint 的采样访问权限，但评估意识可能会限制此类证据的可靠性。