如何防御 RAG 或浏览器 Agent 中的 Prompt Injection?
把外部内容视为不可信数据,并通过最小权限、工具确认、输出校验和数据隔离限制影响。
完整回答
单靠“忽略恶意指令”不可靠。Host 应控制可用工具和凭证,敏感动作要求用户确认,检索内容标注来源,系统还要检测异常调用并保留审计轨迹。
加分信息
- 主动给出可量化的验证指标
- 能结合失败案例说明取舍
常见问题
- 只背定义,不说明工程边界
- 只讲理想流程,不处理异常路径
面试官可能追问
- 这个方案最可能在哪一步失败?
- 你会用什么数据证明改动有效?
结合 MCP 文件助手的目录白名单和只读权限。