AI 已经替你写好一段回复,旁边只有两个按钮:“同意”和“取消”。
如果没有客户原话,没有订单信息,也看不见这段回复会带来什么承诺,那么点下“同意”的那个人,究竟审核了什么?
这就是“人在回路”容易被误解的地方。这个词指的是,自动化流程在某些环节让人参与判断。它听起来像给机器加了一道保险,但人能不能真正判断,取决于流程给了他什么条件。
设想一个 AI 客服助手。修改问候语,可以很快确认;涉及退款金额时,审核者还需要知道是哪笔订单、客户提出了什么、系统打算退多少。只有一段措辞得体的摘要,很难支撑这次决定。
LangChain 的人工介入文档展示了暂停工具执行、保存状态,再让人批准、修改或拒绝的机制。资料:LangChain
技术上的暂停,解决了“能不能等人”的问题。产品还得解决“人等来了以后,能不能看懂和改动”。如果审核者只能一口气批准全部动作,又无法查看细节,按钮更多是在记录责任,而不是帮助控制错误。
审批太多也会出问题。每一条无关紧要的提醒都要求确认,时间一长,人很容易连续点击。真正重要的那一次,可能淹没在一堆重复动作里。参与频率越高,并不自动等于判断越认真。
另一个细节是,确认到底对应哪件事。人同意给甲客户发一份文件,后面收件人却变成乙客户,原来的批准显然不能照搬。金额、对象或内容发生关键变化时,等待审核的事情已经不同了。
如果没有人回应,也不该悄悄理解成同意。任务可以继续等待、取消或交由合适的人处理;具体安排取决于业务,但“人没看见”不能冒充“人已经看过”。
我把这类设计理解成机器与人的工作交接。机器整理重复信息,人处理需要判断的部分。交接材料如果残缺,省下来的自动化时间,可能又被人工来回查资料吃掉。
人当然也会疲劳、误读和犯错。“有人确认过”从来不是万能保证。真正有用的把关,是那个人知道将发生什么,有依据作决定,也确实拥有改动和叫停的权力。