模型路由（Model Routing）是一种推理优化策略：系统在收到用户请求时，先判断任务的性质和难度，再把请求分配给最合适的模型——简单的任务交给小模型或便宜模型，复杂任务才动用顶级大模型，从而在保证回答质量的前提下降低成本、提升速度。
为什么需要路由
- 大模型贵、慢；小模型便宜、快
- 真实流量中大部分请求并不复杂，不需要每次都调用顶级模型
- 混合使用不同模型，能让整体成本下降、平均延迟下降
- 规则路由：按关键词、任务类型等硬规则分配
- 难度预估：用一个轻量模型先预测问题难度，再分流
- 置信度路由：小模型先回答，信心不足时升级到大模型
- 反馈路由：根据回答质量动态调整后续请求的分配策略
应用与趋势 2026 年，模型路由与“多模型网关”结合，成为企业 AI 基建的标配；一些厂商还推出自动选择模型的服务，让开发者无需关心底层用哪个模型。