大促零点,流量洪峰过境:库存服务被打挂,等它恢复的调用方线程越积越多,订单服务跟着拖死,连锁塌方吞掉整个集群——这叫级联故障(下游故障沿调用链向上游蔓延的雪崩现象)。防御体系三件兵器:限流(入口控制,超阈值的请求直接拒绝)、熔断(连续失败达到条件就断开调用,过段时间试探恢复)、降级(服务不可用时返回兜底数据保核心流程)。Sentinel 一套全带,外加可视化的 Dashboard,是当下主流选择。
| 算法 | 原理 | 优点 | 缺点 |
|---|---|---|---|
| 固定窗口 | 每分钟计数,超了拒绝 | 实现最简 | 临界点双倍突刺 |
| 滑动窗口 | 时间切成细格子滚动统计 | 平滑精确 | 内存开销略高 |
| 漏桶 | 恒定速率处理请求 | 流量绝对平滑 | 应对不了突发 |
| 令牌桶 | 恒定速率发令牌,有牌才放行 | 允许短时突发 | 实现稍复杂 |
固定窗口的坑要会演示:限每分钟100次,第59秒来100次、第61秒又来100次——两个窗口各自合规,实际两秒内打了200次。滑动窗口的解法是把一分钟切成更细的格子,窗口边界随时间滑动,统计永远是「最近一分钟」,突刺无处藏身。
Sentinel 内部用 LeapArray(滑动窗口的环形数组实现,每格一个统计桶)落地这套思想:默认1秒切成两个500ms的格子,请求落进对应格子计数,过期格子复用重置。QPS 就是各格计数之和—— O(1) 的读写,代价只是几个桶的内存。
CLOSED(正常放行)
│ 慢调用比例/异常比例/异常数 超阈值
▼
OPEN(熔断中:请求直接走降级,不碰下游)
│ 熔断时长到了
▼
HALF-OPEN(放一个探测请求过去)
├─ 成功 → 回到 CLOSED
└─ 失败 → 回到 OPEN 再等下一轮
三种触发条件对应三类病灶:慢调用比例(RT超过阈值的请求占比过高——下游没死但拖)适合保护延迟敏感的调用;异常比例(错误率超线)适合明确的故障;异常数(绝对条数)适合低流量接口。熔断的价值不在「断」而在「歇」:给下游喘息窗口,避免刚恢复又被流量打死——救人是救己。
@SentinelResource(value = "createOrder",
blockHandler = "createOrderBlock", // 被限流/熔断时走这
fallback = "createOrderFallback") // 业务异常时走这
public Order createOrder(CreateOrderCmd cmd) {
return orderService.create(cmd); // 正常路径
}
public Order createOrderBlock(CreateOrderCmd cmd, BlockException ex) {
throw new BizException("系统繁忙,请稍后再试"); // 拒绝
}
public Order createOrderFallback(CreateOrderCmd cmd, Throwable t) {
return Order.cached(cmd.getOrderId()); // 兜底数据
}
blockHandler 和 fallback 的区别是高频追问:前者接住「被 Sentinel 拦下」的请求(限流熔断规则生效),后者接住业务自身异常——一个是保安拦人,一个是医生接诊,签名里的异常类型也不同(BlockException vs Throwable)。区分不了这两个,说明只看过 demo 没上过生产。
规则的三种流控形态也顺带记:QPS流控最常用;关联流控(写接口达到阈值时限制读接口——保写牺牲读)适合「下单高峰保护扣库存」;链路流控(只限某条调用链路的入口)适合同一服务被多个入口调、只想限第三方渠道的场景。
流控效果还有一个被低估的选项:匀速排队(阈值类型选排队等待,请求按恒定间隔放行)。它把「超了就拒」改成「超了排会儿」——突发洪峰被削成平稳细流,下游始终以额定速率处理,适合消息消费、任务提交这类能等一点的场景。配套参数超时时间要设:排队超过时限的请求仍被拒,不让队列无限涨。削峰填谷的思想(11.1 的 MQ 用队列做)在限流器里换了个形态又见面了。
热点参数限流(按参数值分别限流的规则形态)则是秒杀场景的定制兵器:限「查商品详情」这个资源时指定按第一个参数(skuId)分别计数——爆款 SKU 单独限 500 QPS,长尾商品各限 50,互不挤占。普通限流对热点无解:总阈值 1000 会被一个爆款独吞,其他商品全 403。热点规则还支持参数例外项——指定 skuId=爆款id 时用另一组更严的阈值,规则不用写多条。
再往上是系统自适应保护(从整体负载维度的兜底规则):不看单个接口,看整机——Load、CPU 使用率、平均 RT、入口 QPS 四个指标,整体压力超线时把入口流量整体限住。它防的是「不知道该限谁但系统已经在塌」的最后时刻,属于保命底牌——单接口规则管局部,系统规则保全局,两层都在才算完整防线。
Sentinel 默认把规则存内存,重启即失——生产必须接规则持久化:把规则推到 Nacos 配置中心,服务启动拉取、变更实时生效(16.2 的推送通道复用)。Dashboard 只做规则的编辑展示,Nacos 才是真源——这个架构答出来,「用过」和「玩过 demo」立判。
再深一档是集群流控:单机限流100、十台机器就是1000,但下游的承受力可能只有600——集群流控选一台 Token Server 全局发牌,总量精确可控。代价是多一个组件和通信延迟,规模没到就单机流控够用。
Sentinel 用滑动窗口统计流量、三态状态机管理熔断、双兜底方法分流异常——限流是入口的闸、熔断是过载的歇、降级是断供的粮,三件兵器配 Nacos 持久化才算生产级的雪崩防线。