用户日志分析
用户行为日志
概念:
用户每次访问网站时所有的行为数据(访问, 浏览, 搜索, 点击)**
用户行为轨迹, 流量日志
意义
- 网站的眼睛
- 网站的神经(网页布局等)
- 网站的大脑
日志数据内容(可用nginx进行配置获取)
- 访问的系统属性: 操作系统, 浏览器等
- 访问特征: 点击的url, 从哪个url跳转过来的, 页面上停留时间
- 访问信息: session_id, 访问ip(访问城市)等
数据处理流程(离线数据处理流程)
-
数据采集
Flume框架: web日志写入到HDFS
-
数据清洗
Spark、Hive、MapReduce 或者其他一些分布式计算框架
清洗完后可以存放在HDFS（Hive/Spark SQL）
-
数据处理
按照需求进行相应业务的统计和分析
Spark、Hive、MapReduce 或者其他一些分布式计算框架
-
处理数据入库
结果可以存放到RDBMS(关系型数据库), NoSQL
-
数据可视化
入库结果通过图形化展示的方式展现出来: 饼图,柱状图, 地图, 折线图
ECharts、HUE、Zeppelin