系统指令、应用指令和用户输入冲突时怎样处理?
应用应把不可变规则放在更高优先级指令,并把用户输入和外部内容明确视为数据。
完整回答
不能只依赖模型自行识别冲突。权限和危险操作必须由代码控制,输出经过 Schema 与业务校验;外部文档中的命令不能获得与应用指令相同的信任级别。
加分信息
- 主动给出可量化的验证指标
- 能结合失败案例说明取舍
常见问题
- 只背定义,不说明工程边界
- 只讲理想流程,不处理异常路径
面试官可能追问
- 这个方案最可能在哪一步失败?
- 你会用什么数据证明改动有效?
结合 MCP 文件助手说明读取内容不能改变工具权限。