Hadoop-完全分布式搭建

集群规划

Node01:namenode   ResourceManager    SecondaryNameNode

Node02:datanode   NodeManager

Node03:datanode   NodeManager

准备工作

1.创建三个节点,并连接

2.修改主机名(三台都改,node01  node02  node03)

Hadoop-完全分布式搭建

3.修改映射文件,然后重启三台节点

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

4.需要关闭防火墙

5.禁用SELinux

6.配置SSH免密登陆 都在node01中完成

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

集群搭建

(1)建目录,传hadoop tar包,解压缩

Hadoop-完全分布式搭建

(2)hadoop解压目录下,创建需要用的目录

Hadoop-完全分布式搭建

(3)配置环境变量

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

(4)进入以下目录,修改配置文件

Hadoop-完全分布式搭建

(5)修改以下配置文件

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

 

(6)修改以下配置文件

   Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

 

(7)修改以下配置文件

    Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

 

(8)修改以下配置文件

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

(9)修改以下配置文件

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

(10)修改以下配置文件

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

 

(11)修改以下配置文件,slaves文件中配置datanode运行的节点

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

 

(12)通过scp命令,可以将文件或文件夹传到远程服务器

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

 

(13)在主节点进行初始化操作

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

 

(14)JPS查看进程

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

NameNode:老大

SecondaryNameNode:老大的秘书

DataNode:具体存数据的节点,小弟

ResourceManage:

NodeManage:

(15)web端访问,依然是8088和50070

  • 8088:分布式运算的状态
  • 50070:分布式存储的状态

关闭  ./stop-all.sh

开启  ./start-all.sh

多次format出现的问题

Hadoop-完全分布式搭建

Hadoop-完全分布式搭建

分别修改node02,node03的clusterID和node01的一样

在current下 cat VERSION

vi VERSION