模型的训练数据和参数有什么区别?
训练数据是喂给模型的文本语料,参数是训练完成后学到的数值权重;使用模型时你接触的是参数,不是原始数据。
完整回答
直觉:数据是教材,参数是学完后的大脑,模型发布的是参数。两个工程推论:想让模型知道新信息,优先在调用时通过上下文或 RAG 注入,而不是假设它学过;微调是继续训练改变参数,成本高、生效慢,也不会让旧知识自动过期。
加分信息
- 能对比上下文注入与微调的成本和生效速度
- 指出参数规模与能力相关但不是唯一因素
常见问题
- 以为模型能直接查到训练时的某篇原文
- 把加知识等同于微调,忽略 RAG 这条更轻的路径
面试官可能追问
- 要让模型回答公司内部制度,选微调还是 RAG,为什么?
结合 RAG 知识库项目:企业内部知识走检索注入(改数据),而不是重新训练改参数。