LLM 应用和传统机器学习系统的工程差异是什么?
LLM 更依赖自然语言接口和上下文,输出具有非确定性,必须额外处理提示词版本、评估、护栏和成本。
完整回答
传统 ML 常围绕固定特征、单一预测目标和离线指标;LLM 应用还包含上下文组装、工具调用和多轮状态。二者都需要数据、评估和监控,但 LLM 不能只靠类型检查或少量人工演示证明正确。
加分信息
- 主动给出可量化的验证指标
- 能结合失败案例说明取舍
常见问题
- 只背定义,不说明工程边界
- 只讲理想流程,不处理异常路径
面试官可能追问
- 这个方案最可能在哪一步失败?
- 你会用什么数据证明改动有效?
结合评估控制台说明如何给非确定性系统建立回归门禁。