Hadoop-完全分布式搭建
集群规划
Node01:namenode ResourceManager SecondaryNameNode
Node02:datanode NodeManager
Node03:datanode NodeManager
准备工作
1.创建三个节点,并连接
2.修改主机名(三台都改,node01 node02 node03)
3.修改映射文件,然后重启三台节点
4.需要关闭防火墙
5.禁用SELinux
6.配置SSH免密登陆 都在node01中完成
集群搭建
(1)建目录,传hadoop tar包,解压缩
(2)hadoop解压目录下,创建需要用的目录
(3)配置环境变量
(4)进入以下目录,修改配置文件
(5)修改以下配置文件
(6)修改以下配置文件
(7)修改以下配置文件
(8)修改以下配置文件
(9)修改以下配置文件
‘
(10)修改以下配置文件
(11)修改以下配置文件,slaves文件中配置datanode运行的节点
(12)通过scp命令,可以将文件或文件夹传到远程服务器
(13)在主节点进行初始化操作
(14)JPS查看进程
NameNode:老大
SecondaryNameNode:老大的秘书
DataNode:具体存数据的节点,小弟
ResourceManage:
NodeManage:
(15)web端访问,依然是8088和50070
- 8088:分布式运算的状态
- 50070:分布式存储的状态
关闭 ./stop-all.sh
开启 ./start-all.sh
多次format出现的问题
分别修改node02,node03的clusterID和node01的一样
在current下 cat VERSION
vi VERSION