技术与工程已解决
Agent 的成本控制:别让自动循环烧穿预算
预算上限、模型分级、循环收敛——Agent 应用的成本治理三件套。
问题正文
成本失控的典型场景
Agent 陷入循环(反复调用工具但毫无进展);重试风暴(一个失败触发连锁重试);上下文膨胀(每轮都带完整历史,Token 消耗滚雪球)。
预算上限
任务级:单任务最大 Token 数与最大循环次数,超限即终止并报告。租户级:日月配额,超额降级或暂停。两级都要有,且要可配置可告警。
模型分级
规划与复杂推理用强模型,简单步骤(格式化、分类)用小模型。执行循环里的大多数调用其实不需要最强模型。
