如何为自主 Agent 设计停止条件，避免无效循环和成本失控？

核心判断

针对“如何为自主 Agent 设计停止条件，避免无效循环和成本失控？”，推荐先把目标、风险边界和可验证证据写成契约，再逐步扩大自动化范围。Agent 负责执行，人负责定义不可越过的边界和高风险审批点；是否继续应由进展证据而不是固定步数决定。

实施步骤

1）建立基线：按只读、可逆写入、外部副作用和破坏性操作分四级授权。2）控制执行：每个阶段保存计划、输入摘要、变更集和验证结果。3）处理失败：用错误分类决定重试、降级、转人工或补偿。4）形成闭环：把真实失败样例沉淀为回归集和权限策略。当前场景是“Agent 会反复搜索、改代码或重试同一个工具，现有最大步数过于粗暴。”，因此应先做小流量或只读演练，再进入真实写入。

验收与监控

得到基于进展、预算、错误类别和风险的停止策略。。至少记录成功率、失败类型、人工接管率、P95 延迟和单位任务成本；对第 8 号方案建立固定回归样例，发布前后使用相同输入对比。

边界与误区

约束是“需要区分有进展的迭代与重复失败。”。不要用单一总分或一次演示代替分层验证，也不要把超时当成失败后直接重放；任何外部副作用都必须具备幂等键、状态查询或补偿动作。