一个 AI 应用上线后 token 成本快速上升，你会从哪些层面排查和优化？
好的回答应覆盖请求量、输入输出 token、上下文长度、模型选择、缓存、批处理、摘要压缩、检索裁剪、路由到不同模型、限流、用户配额和监控报警。还应强调不能只降成本导致质量不可控，需要同时看质量指标。
题目背景
AI 应用成本控制不是只换便宜模型，而是系统性设计。
完整回答
好的回答应覆盖请求量、输入输出 token、上下文长度、模型选择、缓存、批处理、摘要压缩、检索裁剪、路由到不同模型、限流、用户配额和监控报警。还应强调不能只降成本导致质量不可控，需要同时看质量指标。
加分信息
- 能结合 AI 应用工程师 的真实工作场景回答。
- 能结合 后端工程师 的真实工作场景回答。
常见问题
- 只给概念定义，没有说明工程场景。
- 没有提到验证、监控或失败处理。
面试官可能追问
- 哪些请求适合缓存，哪些不适合？
- 如果低价模型质量不稳定，你如何设计 fallback？
回答时尽量连接到一个可运行项目、评测记录、日志或复盘材料。