RAG 分层评估
RAG 要分别评估检索和生成,才能定位失败环节。
为什么重要
只看最终答案无法判断是没召回、排序错还是模型没使用证据。
核心原理
检索层测 recall@k、MRR 等,生成层测正确性、忠实度和引用质量,并保留人工抽检。
工程实现
- 建立带证据的问题集
- 记录每层中间结果
- 按文档类型分桶
最小示例
同一问题同时检查正确片段是否进入 top-k 以及答案是否忠于片段。
常见误区
- 只让模型给总分
- 没有失败分类
面试怎么说
RAG Eval 应拆成召回、排序、生成和引用四层指标。
RAG 要分别评估检索和生成,才能定位失败环节。
只看最终答案无法判断是没召回、排序错还是模型没使用证据。
检索层测 recall@k、MRR 等,生成层测正确性、忠实度和引用质量,并保留人工抽检。
RAG Eval 应拆成召回、排序、生成和引用四层指标。