RAG 的 top-k 应该怎样选择?
根据问题集评估召回率、上下文噪声、延迟和 Token 成本,而不是固定照搬一个数。
完整回答
不同查询类型可以动态调整 top-k。先宽召回再重排通常比直接把大量片段塞入模型更好;还要去重相邻片段并为最终输出留预算。
加分信息
- 主动给出可量化的验证指标
- 能结合失败案例说明取舍
常见问题
- 只背定义,不说明工程边界
- 只讲理想流程,不处理异常路径
面试官可能追问
- 这个方案最可能在哪一步失败?
- 你会用什么数据证明改动有效?
结合 RAG 项目按查询类型记录最佳 k。