缓存击穿
周三上午 10 点,流量高峰期。
一切看似正常:
- API 响应时间:50ms
- 缓存命中率:98%
- 外部 API 调用成功率:99%
突然:
- 警告:API 响应时间飙升到 8 秒
- 警告:外部 API 调用失败率飙升
- 警告:请求超时率 60%
系统差点崩溃。事后分析日志,我发现了一个致命问题。
缓存击穿流程
热点 Key 形成
击穿发生过程
正常情况 vs 击穿时刻
正常情况
击穿时刻
缓存击穿是指:
- 某个热点 key(被频繁访问的数据)突然过期
- 大量并发请求同时访问这个 key
- 所有请求都穿透到外部 API
- 外部 API 瞬间压力激增,可能触发限流
关键特征:
- 只有一个 key 过期(不是大面积)
- 但这个 key 非常”热”(访问量巨大)
- 并发请求同时击穿缓存层
这两个概念很容易混淆,我们来对比一下:
| 对比项 | 缓存穿透 | 缓存击穿 |
|---|---|---|
| 攻击目标 | 不存在的数据 | 存在的热点数据 |
| key 特征 | 大量不同的无效 key | 单个有效的热点 key |
| 触发原因 | 恶意攻击/非法请求 | 热点 key 自然过期 |
| 数据存在性 | 缓存和外部 API 都没有 | 外部 API 有,缓存刚好过期 |
| 请求特点 | 持续的恶意请求 | 并发量大的正常请求 |
简单记忆:
- 穿透 = 穿透空对象(数据不存在)
- 击穿 = 击穿热点 key(数据存在但缓存过期)
核心思路:
- 只让一个请求去调用外部 API
- 其他请求等待
- 等第一个请求把数据写入缓存后,大家都从缓存读
优点:
- 保证只有一个请求调用外部 API
- 完全解决击穿问题
- 实现相对简单
缺点:
- 需要处理锁的获取和释放
- 如果持锁请求失败,需要超时机制
- 性能略有损耗(等待时间)
{
"data": {...},
"expire_at": "2025-03-15T15:00:00"
}优点:
- 用户永远能读到数据(不会等待)
- 完全避免外部 API 压力
- 适合对实时性要求不高的场景
缺点:
- 可能返回过期数据(一致性弱)
- 实现复杂(需要异步线程)
- 需要处理并发更新问题
| 对比项 | 互斥锁 | 逻辑过期 |
|---|---|---|
| 实现难度 | ⭐⭐ 中等 | ⭐⭐⭐⭐ 复杂 |
| 数据一致性 | 强一致 | 弱一致(可能返回旧数据) |
| 响应时间 | 需要等待(~100ms) | 无需等待(立即返回) |
| 外部 API 压力 | 完全保护 | 完全保护 |
| 适用场景 | 大多数场景 | 高并发、可接受短暂不一致 |
实施互斥锁方案后的系统指标:
| 指标 | 无防护 | 互斥锁方案 | 逻辑过期方案 |
|---|---|---|---|
| 外部 API 峰值调用量 | 10000 次/秒 | 100 次/秒 | 50 次/秒 |
| 平均响应时间 | 2000ms | 150ms | 50ms |
| 最大响应时间 | 8000ms | 300ms | 100ms |
| 请求超时率 | 60% | 0.1% | 0% |
| 数据一致性 | 强一致 | 强一致 | 弱一致 |
结论:
- 互斥锁方案:适合大多数场景,一致性好
- 逻辑过期方案:适合超高并发、可接受短暂不一致的场景
用户请求
GET https://dashboard.kuaiyizhi.cn/api/v2/weather?city=北京Nginx
Public API
Admin API
Admin Dashboard
MySQL
Redis 集群
MySQL 主从
消息队列
这三道题把互斥锁方案从概念拉到实现:先分清穿透和击穿,再理解双重检查为什么必要,最后自己画出一套可落地的查询流程,把锁的获取与释放都写进去。
练习 1
缓存击穿和缓存穿透的区别是什么?
解题思路:
击穿与穿透要从「目标数据是否存在」这一条根本差异推出来:穿透查的是压根不存在的 key,击穿查的是存在但刚好过期的热点 key,连带的表现和防护手段都不同。
详细步骤:
最终答案:
| 对比项 | 缓存穿透 | 缓存击穿 |
|---|---|---|
| 攻击目标 | 不存在的数据 | 存在的热点数据 |
| key 数量 | 大量不同的 key | 单个热点 key |
| 数据存在性 | 缓存和外部 API 都没有 | 外部 API 有,缓存刚好过期 |
| 触发原因 | 恶意攻击/非法请求 | 热点 key 自然过期 |
| 并发特征 | 持续的恶意请求 | 高并发的正常请求 |
简单记忆:
- 穿透 = 数据不存在,请求穿透空对象
- 击穿 = 热点 key 过期,请求击穿缓存层
练习 2
互斥锁方案中,为什么获取锁后要”双重检查”缓存?
这个问题问的是并发场景下最容易写错的一环:等待锁的那段时间里,先拿到锁的请求可能已经把数据写回缓存了,这时候再回源一次就是纯粹的浪费。
解题思路:
这个问题问的是并发场景下最容易写错的一环:等待锁的那段时间里,先拿到锁的请求可能已经把数据写回缓存了,这时候再回源一次就是纯粹的浪费。
详细步骤:
最终答案:
双重检查的目的是避免重复调用外部 API。
场景说明:
时间线:
T1: 请求 A 获取锁成功
T2: 请求 B 获取锁失败,进入等待
T3: 请求 A 调用外部 API 并写入缓存,释放锁
T4: 请求 B 获得锁(因为 A 释放了)
T5: 请求 B 再次调用外部 API ← 这是浪费的!双重检查流程:
练习 2
- 步骤 1:先读一次缓存,命中就直接返回,未命中才进入加锁流程
- 步骤 2:尝试获取该 key 的互斥锁,只有抢到锁的请求才去调用外部 API
- 步骤 3:没抢到锁的请求短暂等待后重新读一次缓存,这一步就是双重检查
- 步骤 4:持锁请求回源成功后写回缓存并释放锁,等待中的请求从缓存拿到数据
关注点:加锁前后的两次缓存读取与锁释放时机。
效果:
- 避免在等待锁期间,其他请求已经写入了数据
- 减少不必要的外部 API 调用
练习 3
请设计一个带有缓存击穿防护的商品查询流程,使用互斥刷新方案。
这道题要的是一条完整流程:key 怎么定、什么时候加锁、等不到锁的请求怎么办、异常时怎么收尾,缺一环就会在真实流量下出问题。
解题思路:
这道题要的是一条完整流程:key 怎么定、什么时候加锁、等不到锁的请求怎么办、异常时怎么收尾,缺一环就会在真实流量下出问题。
详细步骤:
最终答案:
练习 3
- 步骤 1:以
product:{id}作为缓存 key,先查缓存,命中就直接返回商品数据 - 步骤 2:未命中则尝试抢互斥锁,抢到的请求调用外部接口并把结果写回缓存
- 步骤 3:没抢到锁的请求按退避策略等待后重试读缓存,仍拿不到数据就返回兜底结果
- 步骤 4:在 finally 中释放锁,并给回源调用设置较短的超时,避免锁被长时间占用
关注点:商品查询的 key 设计、锁竞争时的退避与异常收尾。
关键点:
- 互斥锁保护外部 API 调用
- 双重检查避免重复调用
- 空值缓存防止穿透
- 等待重试机制处理锁竞争
- finally 块确保锁释放
发现内容有问题?
告诉我们哪里需要改进。
