消息队列中间件——应用场景
1. 消息中间件的应用场景
* 异步处理
* 应用解耦
* 流量削峰
* 消息通信
用处:
1.应用解耦
场景说明:用户下单后,订单系统需要通知库存系统。传统的做法是订单系统调用库存系统的接口,如下图:
传统模式的特点:
1.加入库存系统无法访问,则订单减库存就会失败,从而导致订单失败
2.订单系统与库存系统耦合。
如何解决以上问题呢?引入消息队列中间件后的方案,如下图:
订单系统:用户下单后,订单系统完成持久化处理,将消息写入消息队列,返回用户下单成功
库存系统:订阅下单的消息采用发布/订阅的方式,获取下单信息,,库存系统根据下单信息,进行库存操作。
计入:在下单时库存系统不能正常使用了。也不影响正常下单,因为下单后,订单系统写入消息队列就不再关心其它的后续操作了。实现订单系统与库存系统的应用解耦。
2.流量消峰
流量消峰也是消息队列中的常用场景,一般在秒杀或者团抢的活动中使用广泛,
应用场景:秒杀活动,一般会因为流量过大,导致嘹亮暴增,应用挂掉,为了解决这个问题,一般呀在应用前端加入消息队列。
可以控制活动人数,可以缓解短时间内高流量压垮应用。
用户的请求,服务器接收后,首先写入消息队列。加入消息队列长度超过最大数量,则直接抛弃用户请求或者跳转到错误页面、
秒杀业务根据消息队列中的请求再做后续的处理
3.日志处理
日志处理是将消息队列用在日志处理中,比如kafka的应用,解决大量日志传输的问题。架构简化如下:
日志采集客户端,负责日志数据采集,定时写入kafka队列
kafka队列,负责日志数据的接收,存储和转发。
日志处理应用:订阅并消费kafka队列中的日志数据
kafka:接收日志的消息队列
logstash:做日志解析,统一成json输出给Elasticsearch
Elasticsearch:实时日志分析服务的核心技术,一个schemaless,实时的数据存储服务,通过index组织数据,兼具强大的搜索和统计功能。
kibana:基于Elasticsearch的数据可视化组件,超强的数据可视化能力是众多公司选择elk stack的重要原因
4.消息通讯
消息通讯是指,消息队列一般都内置了搞笑的通信机制,因此也可以用在纯的消息通讯。比如实现点对点消息队列,或者聊天室
点对点通讯:
客户端A和客户端B使用同一队列,进行消息通讯。
聊天室通讯:
客户端A,客户端B,客户端N订阅同一主题,进行消息发布和接收。实现类似聊天室效果。
5.异步处理
场景说明:用户注册后,需要发注册邮件和注册短信。传统的做法有两种:
1.串行的方式,2.并行的方式
(1)串行的方式:将注册信息写入数据库成功后,发送注册邮件,再发送注册短信。以上三个人物全部完成后返回给客户端
(2)并行的方式:将注册信息写入数据库后,发送注册邮件的同时,发送注册短信。以上三个人物完成后,返回给客户端,与串行的差别是,并行的方式可以提高处理的时间。
假设三个业务节点每个使用50秒,不考虑网络等其它开销,则串行方式的时间是150毫秒,并行的时间可能是100毫秒。
因为CPU在单位时间内处理的请求数是一定的,假设CPU在1秒内吞吐量是100次,则串行方式1秒内CPU可处理的请求量是7此(1000/150)。并行方式处理的请求量是10次(1000/100)
小结:如以上案例描述,传统的方式系统的性能(并发量,吞吐量,响应时间)会有瓶颈,如何解决这个问题呢?
引入消息队列,将不是必须的业务逻辑,一部处理,改造后的框架如下:
按照以上约定,用户的响应事假相当于是注册信息写入数据库的时间,也就是50毫秒。注册邮件,发送短信写入消息队列后,直接返回,因此写入消息队列的速度很快,基本可以忽略,因此用户的响应时间可能是50毫秒,因此架构改变后,系统的吞吐量提高到每秒20QPS,比串行提高了3倍,比并行调高了2倍。
ke