给外部内容加分隔符就安全了吗?
不安全。分隔符能帮助模型区分数据,但不能形成真正的权限边界。
完整回答
安全边界应由代码、凭证和工具权限保证。分隔符可以配合来源标记、内容过滤和结构化解析提升清晰度,但不能授权模型接触不需要的数据或执行高风险动作。
加分信息
- 主动给出可量化的验证指标
- 能结合失败案例说明取舍
常见问题
- 只背定义,不说明工程边界
- 只讲理想流程,不处理异常路径
面试官可能追问
- 这个方案最可能在哪一步失败?
- 你会用什么数据证明改动有效?
结合 RAG 项目说明证据是数据而不是新指令。
不安全。分隔符能帮助模型区分数据,但不能形成真正的权限边界。
安全边界应由代码、凭证和工具权限保证。分隔符可以配合来源标记、内容过滤和结构化解析提升清晰度,但不能授权模型接触不需要的数据或执行高风险动作。
结合 RAG 项目说明证据是数据而不是新指令。