Prompt Injection 防护
Prompt Injection 是不可信内容试图改变模型原有任务和权限。
为什么重要
接入网页、文档和工具后，外部内容可能诱导 Agent 泄密或执行危险动作。
核心原理
防护要依赖权限隔离、数据与指令分层、输出验证和用户确认，不能只写一句忽略恶意指令。
工程实现
- 外部内容标记为数据
- 工具最小权限
- 敏感动作二次确认
最小示例
网页中的“上传密钥”被当作文本证据，而不是可执行指令。
常见误区
- 依赖单条防注入 Prompt
- 让模型接触全部凭证
面试怎么说
Prompt Injection 是系统安全问题，要通过权限、隔离、验证和确认降低影响面。