Human-in-the-Loop：为交接设计，而不是为推翻设计

多数 human-in-the-loop 系统的设计假设是：人类是兜底的——出现在那里，在模型出错时推翻它。这种框架产出的界面，要求人类审阅又长又密的 Agent 轨迹然后通过或拒绝。通过率高、错误捕获率低，三周之内人类就开始默认盖章。

推翻模式出错的地方

事后审阅一个 Agent 的计划，比从头产出一个还难。审阅者要重建 Agent 拥有的上下文、跟随他没写的思维链、在二十个对的步骤里找出那一个错的。这对人类很难，而且随着 Agent 变得更强而更难，因为需要审阅的情况，恰恰是 Agent 推理足够复杂以至于看起来正确的那种。

交接优先的设计是什么样

Agent 在它判断可靠的地方做事，然后浮现出真正需要人类判断的具体决策——只浮现这些决策，配上相关上下文，按快速审阅的格式。人类不是在审阅一份成绩单；他们在回答一个问题。“需要人类”的阈值应该根据来自模型自身的不确定性信号调整，而不是根据一个固定的动作类别。

Human-in-the-loop 在人类被要求慢动作做 Agent 的工作时失败。它在 Agent 做 Agent 该做的事、人类做人类该做的事时奏效。