Guardrails 在 Agent 系统中能解决什么,不能解决什么?
护栏可在输入、输出或工具调用周围检查规则,但不能替代鉴权、沙箱和事务控制。
完整回答
同步护栏可在执行前阻止危险动作,并行护栏可能降低延迟但已消耗模型或工具资源。关键安全规则必须由确定性代码和执行层权限保证。
加分信息
- 主动给出可量化的验证指标
- 能结合失败案例说明取舍
常见问题
- 只背定义,不说明工程边界
- 只讲理想流程,不处理异常路径
面试官可能追问
- 这个方案最可能在哪一步失败?
- 你会用什么数据证明改动有效?
结合任务 Agent 对外发邮件做执行前护栏和确认。