sentinel的流量控制
Sentinel的流量控制
流量控制在网络传输中是一个常用的概念,它用于调整网络包的发送数据。然而,从系统稳定性角度考虑,在处理请求的速度上,也有非常多的讲究。任意时间到来的请求往往是随机不可控的,而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel 作为一个调配器,可以根据需要把随机的请求调整成合适的形状,如下图所示:
流量控制有以下几个角度:
• 资源的调用关系,例如资源的调用链路,资源和资源之间的关系;
• 运行指标,例如 QPS、线程池、系统负载等;
• 控制的效果,例如直接限流、冷启动、排队等。
Sentinel 的设计理念是让您自由选择控制的角度,并进行灵活组合,从而达到想要的效果。
sentinel注意点:
• spring-cloud-starter-alibaba-sentinel 将所有开放的端点自动视作sentinel所要保护的资源。
• 懒加载的,请求之后才能出现数据
• 规则默认是在应用(而非sentinel控制台)的内存中的,如果应用重启,则规则失效,后续通过扩展持久化
- 确保应用接入了控制台
- 发起一次请求,在控制台的簇点链路界面看到这个资源
- 点击流控,新增流控规则,如下图,阈值类型设为QPS 单机阈值设为5,保存
4.post 新建collection,新建request,新建test,使用runner运行测试
运行的结果如下:20次请求大部分被流控拦下了
资源只被调用了6次,而不是20次
其他流控的选项
流控模式:
• 直接: 针对当前资源进行处理 /get
• 关联: A资源 关联 B 资源 ,请求发给B,如果达到阈值,那么则对A限流; A=>查询操作 B=>更新操作
• 链路:以调用链路为单位做限流处理,例如:A->B->C 这个链路的总体流量只按入口A的请求量来计算
流控效果:
• 快速失败:直接抛出异常,界面收到提示:Blocked by Sentinel (flow limiting) com.alibaba.csp.sentinel.slots.block.flow.controller.DefaultController
• warm up(预热):如果qps 10,预热时长10s 冷加载因子是3 从qps=10/3 开始控制流量,逐步达到10
冷启动(RuleConstant.CONTROL_BEHAVIOR_WARM_UP)方式
该方式主要用于系统长期处于低水位的情况下,当流量突然增加时,直接把系统拉升到高水位可能瞬间把系统压垮。通过"冷启动",让通过的流量缓慢增加,在一定时间内逐渐增加到阈值上限,给冷系统一个预热的时间,避免冷系统被压垮的情况。
比如设置的阈值为100,预热时间10s,冷加载因子是3,那最初的阈值时100/3,逐步加大阈值,10s后达到100。阈值大小决定了流量大小,也就是逐步释放请求流量进入系统,让系统“冷启动”。参考官方wiki 限流—冷启动
源码: com.alibaba.csp.sentinel.slots.block.flow.controller.WarmUpController
如果qps 10,预热时长10s 冷加载因子是3 从qps=10/3 开始控制流量,逐步达到10 postman设置delay 100ms 保证qps 10
这样看到通过请求越来越多的
• 排队等待:匀速器(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER)
需要设置将阈值模式设置为QPS才能生效。这种方式严格控制了请求通过的间隔时间,也即是让请求以均匀的速度通过,对应的是漏桶算法。参考官方wiki 流量控制-匀速排队模式
该方式的作用如下图所示:
这种方式主要用于处理间隔性突发的流量,例如消息队列。想象一下这样的场景,在某一秒有大量的请求到来,而接下来的几秒则处于空闲状态,我们希望系统能够在接下来的空闲期间逐渐处理这些请求,而不是在第一秒直接拒绝多余的请求。削峰填谷。
com.alibaba.csp.sentinel.slots.block.flow.controller.RateLimiterController
超时时间: 超时等待超过指定时间,则被限流