重排与上下文选择
Rerank 对召回候选进行更精细的相关性排序。
为什么重要
第一阶段召回追求不漏,重排负责减少无关上下文。
核心原理
先宽召回较多候选,再用重排模型或规则选少量证据;同时控制延迟和成本。
工程实现
- 区分召回与重排指标
- 保留未重排结果用于调试
- 限制进入生成的片段数
最小示例
从 30 个候选中重排出 5 个最能回答问题的片段。
常见误区
- 重排后不做去重
- 用生成模型无约束重排
面试怎么说
Rerank 是召回后的精排层,用于提高进入上下文的证据密度。
Rerank 对召回候选进行更精细的相关性排序。
第一阶段召回追求不漏,重排负责减少无关上下文。
先宽召回较多候选,再用重排模型或规则选少量证据;同时控制延迟和成本。
Rerank 是召回后的精排层,用于提高进入上下文的证据密度。