第一批用户

API 在社区里火了之后,用户开始抱怨”太慢”。加了日志才发现瓶颈不在我的代码,而在外部天气 API——它的免费版只允许每分钟 100 次、每天 1 万次调用,而我每天已经调了 10 万次,正在逼近上限。

日志里的数字更说明问题:24 小时 10 万次请求只覆盖 50 个城市,北京一个城市就占了 15000 次。同一个城市 1 小时内的天气几乎不变,重复调用是纯粹的浪费。引入 Redis 缓存之后,响应时间从 2000ms 降到 35ms,命中率 95%,外部调用量从每天 10 万次降到 5000 次。但缓存一上线,新的问题也跟着来了。

这一章顺着这条线走:先算清缓存这笔账,再处理三类缓存故障——热点 key 过期造成的击穿、查不存在数据造成的穿透、大面积同时过期造成的雪崩;最后给不同数据定不同的过期时间,解决”数据比气象局还慢”的抱怨。

读完你应该能说清穿透、击穿、雪崩各自的触发条件和不同解法,并能为一类”数据变化慢、却被反复查询”的接口设计出缓存时间、失效策略和回源保护方案。上一章《管理后台》里你开始盯着调用数据看,这一章就撞上了第一个真实瓶颈。

章节

发现内容有问题?

告诉我们哪里需要改进。