METR：Blog·AI 评分56
METR 发布并评估用于 Agent 评估的逐动作阻断式监控器
Implementing and Evaluating a Basic Per-Action Monitor for Safer Evals
AI 导读
METR 发布一篇技术报告，介绍其部署在 Inspect 审批链上的逐动作 LLM 监控器，用于在评估中拦截可能造成真实世界伤害的 Agent 动作，阈值为 3/10，超阈值即暂停等待人工审查。
来源：METR：Blog · metr.org
METR 发布并评估用于 Agent 评估的逐动作阻断式监控器