为什么需要 RAG
RAG(检索增强生成)= 先从你的知识库查出相关内容,再让模型基于这些内容回答。
为什么重要
模型有三个硬伤:知识有截止日期、会一本正经地编造(幻觉)、不知道你的企业内部资料;RAG 的先查后答正好补上这三块。
核心原理
离线把文档切成小块并建立可搜索的索引;在线时先检索出最相关的几块,连同问题发给模型,要求基于这些内容回答并附引用。RAG 不自动正确:检索漏了、切块坏了、模型不忠于证据都会出错,检索与生成要分别评估。
工程实现
- 回答附引用,证据不足就明说不知道
- 检索和生成分层评估,不只看最终答案
- 文档更新后重建索引
展开说明
员工问“年假怎么休”:不接 RAG,模型按公开常识猜;接 RAG,系统先检索公司考勤制度相关条款,模型按条款回答并标注出处。
常见误区
- 以为接了向量数据库就不会再幻觉
- 把整本文档塞进上下文,又贵又稀释重点
面试怎么说
RAG 用外部检索解决知识截止、幻觉和内部知识三个问题,核心是先查后答加引用可核;深入就是 Embedding 与语义表示和分层评估。