返回面试题库
eval-observability中级

AI 应用上线后应该监控什么?

MonitoringProduction
30 秒回答

监控任务成功代理指标、错误类型、拒答率、工具失败、P95 延迟、Token 成本和用户反馈。

完整回答

线上没有完整真值,因此要组合确定性业务结果、抽样人工复核和漂移检测。告警应能定位模型、Prompt、检索索引和工具版本,避免只有一个总成功率。

加分信息

  • 主动给出可量化的验证指标
  • 能结合失败案例说明取舍

常见问题

  • 只背定义,不说明工程边界
  • 只讲理想流程,不处理异常路径

面试官可能追问

项目连接

结合评估控制台建立线上指标看板。