Agent 说“完成了”，系统凭什么相信？

流程走完不等于事情办成一个客服 Agent 查了订单、物流和赔偿政策创建工单后宣布问题已解决。看起来步骤齐全但物流异常仍未解除工单却被标成“已解决”而不是等待处理。这是 ThinkingBox 展示的合成案例并非真实客户经历。它揭示了一个关键问题工具调用成功只能证明操作被执行不能证明业务目标被满足。正确理解赔偿政策也不能替代对物流问题的处理。对 AI 应用开发者而言“完成”应当是系统验收的结果而不是模型自行宣布的结论。把验收条件写在执行之前开发者需要先把用户目标转换成可检查的条件哪些记录应该改变字段最终应是什么值哪些操作禁止发生。在上述案例中验收至少要确认工单关联正确订单物流异常未解除时工单保持待处理状态没有重复建单或错误赔偿回复向客户解释当前进展。前三项检查系统记录最后一项检查沟通内容。执行结束后应由独立检查逻辑读取实际状态并核对本次产生的副作用。模型的总结可以帮助理解过程但不能代替证据。若采用暂存后提交的流程可以在提交前检查已经写入的操作则需要读取确认并在发现问题时进入纠错流程。一次成功还不足以支持上线ThinkingBox 的评估区分了单次成功率、二十次中至少成功一次以及二十次全部成功。它们分别反映通常表现、能力覆盖和重复稳定性。处理真实订单时“偶尔能做对”显然不够。但二十次全通过也不保证未来永远正确。开发者应从相同初始状态重复测试记录失败类型并按业务风险设定验收门槛。真正需要建设的是完成判定机制我的判断是Agent 产品不能只优化回答和调用链还要建立独立的结果验收。可恢复的工具错误需要针对性重试涉及写入的重试必须防止重复副作用验收失败则应继续处理或转交人工不能直接宣布完成。上述建议是工程分析本文尚未对其进行实测不能据此承诺具体的性能提升。可以明确的是只有目标状态成立、必要效果齐全、额外影响符合约束系统才有依据认定任务完成。