1. 先想清楚面试官抛出这道题,核心在考你什么
作为后端开发,看到“十万用户并发下,Caffeine+Redis+MySQL多级缓存怎么设计”这道题,第一反应别急着背答案。面试官问这个,表面上考的是缓存架构,实际上在考三件事:你对缓存原理的理解深度、你在高并发场景下的架构取舍能力、以及你有没有真正处理过线上问题的工程经验。
先说结论:这不是一道“背诵题”,而是一道“方案设计题+实战经验题”。单纯把Caffeine、Redis、MySQL三个组件罗列出来,谁都会说“先查本地、再查Redis、最后查数据库”,但这远远不够。面试官真正想听的是:每一层缓存解决什么问题、容量和过期策略怎么定、缓存与数据库的一致性怎么保证、击穿穿透雪崩你分别怎么防、降级和监控怎么做。
再说适用人群。这道题在Java后端面试中出现的频率极高,尤其是3-5年经验的中级岗位,以及进阶高级岗位的必考题。但如果你不是马上要面试,而是正在做系统架构设计,或者想把现有接口性能往上提一个量级,这篇内容同样有参考价值。我会结合真实线上经验,把整个设计过程拆开揉碎,告诉你每一步背后的逻辑,而不是只给一个骨架。文章最后还会附上我踩过的坑和一套可以直接抄的面试回答框架。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 多级缓存架构的整体设计思路拆解
2.1 为什么要做多级缓存,而不是只靠Redis
很多刚工作两三年的同学有个惯性思维:接口慢?加Redis缓存。并发扛不住?加Redis缓存。Redis确实是好东西,但它不是万能的。
先算一笔账。假设你的接口单次查询需要访问MySQL,耗时在5-10ms级别,这个数据算正常偏快。引入Redis后,走一次网络IO,即使内网延迟极低,也还有大约0.1-0.5ms的网络往返时间。这时候接口耗时降到了零点几毫秒,看起来已经很不错了。但如果到了十万级并发,尤其是热点数据集中在某几个key上的时候,Redis的单机QPS是有上限的。虽然Redis单机可以抗10万以上的读QPS,但那是理想状态,真实场景下网络带宽、CPU、内存都会成为瓶颈,而且大量的Redis访问请求同时打过来,Redis自身也会出现热点问题。
这时候Caffeine这类本地缓存就派上用场了。本地缓存最大的优势不是快,而是“零网络开销”。数据直接在JVM堆内存里,读取一个缓存key的时间是纳秒级别的。同样一个热点key,如果100个请求打到同一个JVM节点上,本地缓存1次就能扛住,而Redis则需要扛100次请求。在多节点部署的情况下,本地缓存能把请求量在应用层直接消化掉一大半,打到Redis的流量可能只剩原来的百分之几。
所以多级缓存的本质,是用“距离更近、速度更快但容量更小”的存储,逐层拦截请求,让绝大多数请求在最上层就被返回,而不是层层穿透到底层。
2.2 三级缓存各自扮演什么角色
要设计好这个架构,得先明确每一层缓存的分工,否则就会变成“三层都存了一份数据,但谁都没发挥出作用”。
Caffeine本地缓存层:它的核心使命是抗住瞬时热点流量。适合放哪些数据?访问频率极高、数据量可控、对一致性要求相对没那么苛刻的数据。比如首页推荐内容、热门商品详情、用户基础信息这类读写比悬殊的数据。它的特点是容量小(通常几十MB到几百MB),速度极快,但因为是JVM本地存储,每个节点各自维护一份,所以存在“多节点数据不一致”的问题。
Redis分布式缓存层:它的核心使命是承接本地缓存未命中后的流量,同时作为多节点共享的缓存层,解决本地缓存多副本的数据一致性问题。它的容量比本地缓存大很多,可以支撑GB级别的数据量,并且通过集群模式可以做水平扩展。在这一层,需要配合设置合理的过期时间、采取缓存预热策略、同时考虑分布式锁来防击穿。
MySQL持久化层:它是数据最终一致性的基石,也是整个系统最脆弱的一层。在高并发设计里,MySQL的目标不是“扛住所有请求”,而是“别被打垮”。所以所有保护机制,包括缓存穿透防护、熔断降级、限流,本质上都是在保护这一层。
2.3 十万级并发下的流量漏斗模型
我用一个流量漏斗来帮你理解这三层的关系,这也是我面试时最爱画的一张图。
假设十万用户同时发起请求,均匀打到应用层的多个实例上。每台实例先查本地Caffeine缓存,按照70%-80%的命中率计算,大约七八万的请求直接返回了,根本不会产生网络IO。剩下的两三万请求打到Redis,Redis的命中率可以做到90%以上,又拦截下两万多。真正穿透到MySQL的请求,可能只剩下两三千。这两三千对MySQL来说是完全可以承受的,关键在于通过限流和熔断,确保极端情况下也不会超过数据库的连接池上限。
这个漏斗模型是整套设计的主线,后面所有的配置参数、策略选择,都是围绕这个漏斗如何更高效、更稳定地工作来展开的。
3. 每一层缓存的细节设计:参数、策略与配置
3.1 Caffeine本地缓存的核心参数,怎么定
Caffeine是Java生态里目前最优秀的本地缓存库,底层基于Google Guava Cache演进而来,读写性能极其出色。用起来不复杂,但参数配置是有讲究的。
以我实际项目中的配置为例:
java复制Cache<String, ProductDetail> localCache = Caffeine.newBuilder()
.initialCapacity(256)
.maximumSize(10_000)
.expireAfterWrite(Duration.ofSeconds(30))
.recordStats()
.build();
- initialCapacity:初始容量,设置为256,避免频繁扩容带来的性能损耗。
- maximumSize:最大缓存条目数,这里设为1万。这个数字不是拍脑袋定的,而是根据JVM堆内存预算算出来的。假如单个ProductDetail对象平均占2KB,1万条就是20MB左右,在一个典型的4G堆内存应用里占比很小,完全可控。
- expireAfterWrite:写入后30秒过期。这个时间是很讲究的,既要尽可能少地穿透到Redis,又要保证数据更新后能在合理时间内可见。30秒属于“能容忍短暂不一致、换极高并发性能”的典型取舍。
这里有个很多新手会忽略的坑:Caffeine还有个参数叫refreshAfterWrite,它和expireAfterWrite有本质区别。expireAfterWrite是过期后被动删除,下次访问会触发回源;而refreshAfterWrite是在过期后
