
技术选型:
要提供两套方案,红色的一套,黑色的一套,提供对比
选择的依据:
优先选择红色的那一套,因为比较通用,而且熟悉
Flume解决日志的采集,Kafka解决消息的分发和消峰,Sqoop用于HDFS和关系型数据库进行数据的传递
MySql主要用于查询,它用于存储与前端进程交互比较频繁的数据,因为查询要速度比较块,HDFS主要用于存储,用于存储计算和分析的数据量大的数据
Hive是底层是基于MR,速度慢,Tez基于内存,数据在计算过程中不落盘,都存储在内存中,速度快,Spark同理
Presto和Impala是同类型同级别的框架,Druid在处理实时即席查询比Kylin强一些