成本感知型 LLM 流水线

在保持质量的同时控制 LLM API 成本的模式。将模型路由、预算跟踪、重试逻辑和提示词缓存组合成一个可组合的流水线。

何时激活

• 构建调用 LLM API（Claude、GPT 等）的应用程序时
• 处理具有不同复杂度的批量项目时
• 需要将 API 支出控制在预算范围内时
• 需要在复杂任务上优化成本而不牺牲质量时

核心概念

1. 根据任务复杂度进行模型路由

自动为简单任务选择更便宜的模型，为复杂任务保留昂贵的模型。