LLM Task Routing
先对输入做分类，再把任务分发到更合适的 prompt、模型或后续流程，是复杂场景里常见的 workflow 模式。
#tech / ai
#resource / llm-task-routing
#type / concept
#status / growing
[!info] related notes
- 所属 MOC: AI MOC
- 前置概念: Agentic Systems
- 并列概念: Prompt Chaining, LLM Parallelization
- 易混淆概念: 路由
- 关系笔记: Agentic Workflow Patterns
LLM Task Routing
一句话定义
LLM task routing 是先判断输入属于哪一类，再把它送到更专门的 prompt、模型、工具链或后续流程里处理。
核心机制 / 工作原理
核心不是“分类本身”，而是：
- 不同问题类型适合不同处理路径
- 如果硬用同一个 prompt 处理所有输入，往往会互相拉低效果
典型路由目标包括：
- 不同客服问题进不同处理流
- 简单问题走小模型，复杂问题走强模型
- 不同文档类型进不同抽取模板
最小例子 / 最小场景
用户支持系统里，可以先分成：
- 一般咨询
- 退款请求
- 技术故障
然后每类问题再进入不同流程。
边界与易混淆点
- 路由的前提是类别边界足够清楚，且分类准确率足够高。
- 不是所有任务都值得多一层 routing；类别不明显时，硬拆会增加复杂度。
- 这里的 routing 是 LLM workflow 概念，不是前端 URL 路由。