AI agent 工作流的模型幻觉检测方法指南

AI agent 的模型幻觉通常与正常回答无异，需要在工作流中分层检测。指南将幻觉分为事实性、上下文性、虚构和自相矛盾四类，并介绍 faithfulness/groundedness 检查（可用 DeepEval 自动化）、自一致性检查、语义熵不确定性估计、外部源验证以及按置信度阈值分流并保留 human in the loop 的方案。单一检查无法覆盖所有失败模式，需按失败类型组合多层验证。