Storm学习

目录:

  1. Storm介绍
  2. Storm应用场景
  3. Storm安装
  4. Storm节点介绍
  5. Storm核心组件
  6. Storm开发
  7. Storm集群搭建
  8. 大数据平台技术衔接

 

一.Storm介绍

Storm学习

 

二.Storm应用场景

Storm学习

 

三.Storm安装:linux下系统下安装

先看官方文档:http://storm.apache.org/,如下,所以需要先安装与Storm对应的zookeep、Java、python

Storm学习

安装步骤:

  1. 在系统上安装Java,如果你还没有安装
  2. 安装ZooKeeper框架
  3. 安装python
    安装教程:http://www.runoob.com/python/python-install.html
    注意:
    (1)如果执行 ./configure(检查编译环境)出现错误(包含很多no的情况),是因为没有安装插件,也可以提前执行
    yum install -y gcc-c++
    Storm学习
    (2)退出ptthon,执行exit()
  4. 安装Apache Storm框架
    1. 下载strom
      Storm学习
    2. 上传、解压
    3. 配置环境变量
      Storm学习
    4. 配置文件(storm是用 python写的,所以特别注意空格,少了空格或者多了控制都会运行出错)
      Storm学习
    5. 启动:先启动zookeep,再启动storm
      Storm学习
    6. 测试

 

四.Storm节点介绍

Storm学习

Storm学习

 

五.Storm核心组件

Storm学习

Storm学习

Storm学习
Storm学习

Storm学习

Storm学习

Storm学习

Storm学习

Storm学习

Storm学习

 

六.Storm开发

练习.统计单词

Storm学习

Storm学习

Storm学习

Storm学习

详细步骤:

  1. 下载驱动包
    Storm学习
  2. 创建项目,项目结构
    Storm学习
  3. 在pom.xml中添加依赖包
    Storm学习
  4. 编写代码
    1. WordSpout.java
      Storm学习
      Storm学习
      Storm学习
      Storm学习
    2. WordBolt.java
      Storm学习
      Storm学习
    3. PrintBolt.java
      Storm学习
      Storm学习
    4. WordTopolgy.java
      Storm学习
  5. 运行WordTopolgy.java
    可能会返回
    Storm学习
    重新以管理员运行eclipse
    运行成功之后,会一直运行,不停的进行计算

 

七.Storm集群搭建

详细步骤:使用3台虚拟机进行集群搭建

  1. 安装Java
  2. 安装zookeeper
  3. 安装python
  4. 安装storm
    1. 下载、上传、解压、安装、配置环境变量
    2. 修改配置文件
    3. 启动zookeeper,再启动storm
    4. 在web中访问strom
      Storm学习
    5. 修改【六.Storm开发的项目】的main方法,然后将此项目打包成jar包,再storm中发布
      1. 修改:发布到集群
        Storm学习
      2. 打包
        Storm学习
      3. 发布
        Storm学习
        结果:
        Storm学习
    6. 结果
      Storm学习

 

八.大数据平台技术衔接

Storm学习