什么内容适合缓存,缓存要注意什么?
稳定、重复且不含用户私密状态的前缀或结果更适合缓存。
完整回答
缓存键必须包含模型、Prompt、Schema、数据版本和权限范围。对时效信息设置过期与失效策略,不能让不同租户共享敏感结果,也不能用缓存掩盖版本回归。
加分信息
- 主动给出可量化的验证指标
- 能结合失败案例说明取舍
常见问题
- 只背定义,不说明工程边界
- 只讲理想流程,不处理异常路径
面试官可能追问
- 这个方案最可能在哪一步失败?
- 你会用什么数据证明改动有效?
结合知识库缓存公共文档检索结果。
稳定、重复且不含用户私密状态的前缀或结果更适合缓存。
缓存键必须包含模型、Prompt、Schema、数据版本和权限范围。对时效信息设置过期与失效策略,不能让不同租户共享敏感结果,也不能用缓存掩盖版本回归。
结合知识库缓存公共文档检索结果。