[!info] related notes

• 所属 MOC: agent-evals-moc、agent-moc
• 相关概念: fallback-strategy、human-oversight-in-agents、stopping-conditions-in-agents
• 授权边界: agent-decision-authority

Agent 的 Fallback、Abstain 与 Escalate

范围

这篇笔记只比较当 Agent 不能继续安全 AUTO 时的决策退路。它不讨论 LLM Provider 5xx 后切备用 endpoint 的基础设施 fallback；后者见 Fallback Strategy。

核心关系

AUTO 不再被允许时，由 policy 判断是否存在已批准的 fallback、是否必须 abstain，以及是否需要 escalate。三者不是固定顺序的互斥分支：系统可以先停止当前判断，再提交人工审核；等待审核期间也可能提供独立获准的有限服务。

例如证据冲突时，系统可以同时记录 ABSTAIN（本系统不作诊断）和 ESCALATE（提交专业人员复核）。提交成功只表示进入审核流程，不表示复核已完成。

FALLBACK

Fallback 表示仍由当前系统负责完成目标，但切换到一个更保守、能力更低或约束更强的已批准路径。

例如：

高级自动判断不可用
→ 返回受限的安全建议 + 明确不确定性

关键点：fallback 仍然必须在另一个已批准 policy/safety envelope 内。它不是“主路径不行就随便给个答案”。

ABSTAIN

Abstain 表示：

当前证据不足或风险条件不允许系统可靠完成这个判断，因此明确不作该判断。

它不是系统崩溃，而是一种合法、可评测的结果。

典型触发：

• critical gap 无法关闭；
• 证据互相冲突且无法消解；
• 当前 case 超出所有可用自动化 envelope；
• 输出若继续生成会制造不可接受的虚假确定性。

ESCALATE

Escalate 表示请求具有相应决策权限的主体接管判断，例如人工审核、专业人员或专门安全流程。

Escalation 的本质是请求具备相应授权与责任的主体接管判断。更多信息或更强模型本身不授予权限；交接应区分已请求、已接收和已裁决，在完成接管前不能假定已有新的授权结论。

三者最重要的区别

模式	当前系统是否继续给出决策	Authority 是否变化	典型目的
Fallback	是，但更保守	通常不变	在批准范围内继续服务
Abstain	否	不一定	避免无证据判断
Escalate	当前系统不再独立决定	请求转交；接管状态需确认	交给有相应权限的主体

与 Evidence Acquisition 的关系

不能 AUTO 时，第一反应通常不必立刻降级。如果 policy 允许继续取证，且 decision-relevant gap 仍有合理获取路径，可以先：

OPEN gap
→ evidence acquisition
→ re-evaluate

只有 gap 仍无法关闭、预算耗尽或继续取证不合适时，再按版本化 policy选择 fallback / abstain / escalate。

常见误解

• Fallback = Escalate：fallback 多数仍在同一 authority 内；escalate 是交权。
• Abstain = error：abstention 可以是设计正确的安全输出。
• 预算耗尽就 fallback：具体退路必须由 policy 决定，预算耗尽本身只是一种 stopping reason。