Hadoop伪分布式安装(大数据非常基础的实战)
下载地址：http://hadoop.apache.org/releases.html 下载2.X版本
Hadoop的安装分为单机方式、伪分布式方式和完全分布式方式
单机模式
单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时，Hadoop无法了解硬件安装环境，便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时，Hadoop会完全运行在本地。因为不需要与其他节点交互，单机模式就不使用HDFS，也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。
伪分布模式（在虚拟机上或者容器上实战）
Hadoop守护进程运行在本地机器上，模拟一个小规模的的集群。可以使用HDFS和MapReduce b.
全分布模式 Hadoop守护进程运行在一个集群上。
全分布模式，启动所有的守护进程，具有hadoop完整的功能，可以使用HDFS、MapReduce和Yarn，并且这些守护进程运行在集群中，可以真正的利用集群提供高性能，在生产环境下使用
伪分布式安装
因为日常开发没有那么多的机器可以搭建集群，所以伪分布式已经可以满足开发需要了
1、关闭防火墙
重启后时效：service iptables stop永久关闭：chkconfig iptables off
2、配置主机名
需要注意的是Hadoop的集群中的主机名不能有。如果存在会导致Hadoop集群无法找到这群主机，无法启动！
编辑network文件：vim /etc/sysconfig/network将HOSTNAME属性改为指定的主机名，例如：HOSTNAME=hadoop01
让network文件重新生效：source /etc/sysconfig/network
3、配置hosts文件，将主机名和ip地址进行映射
编辑hosts文件：vim /etc/hosts将主机名和ip地址对应，例如：192.168.234.190 hadoop01
4、配置ssh进行免密互通
生成自己的公钥和私钥,生成的公私钥将自动存放在/root/.ssh目录下：ssh-******把生成的公钥拷贝到远程机器上，格式为：ssh-copy-id [email protected]，例如：ssh-copy-id [email protected]
5、重启Linux让主机名的修改生效：reboot
6、上传或者下载Hadoop安装包到Linux中
7、解压安装包：tar -xvf hadoop-2.7.1_64bit.tar.gz
8、进入Hadoop的安装目录的子目录etc/hadoop
进入配置文件夹Hadoop：cd hadoop2.7.1/etc/hadoop
9、编辑 hadoop-env
vim hadoop-env.sh修改JAVA_HOME的路径，修改成具体的路径。例如：export JAVA_HOME=/home/software/jdk1.8修改HADOOP_CONF_DIR的路径，修改为具体的路径，例如：export HADOOP_CONF_DIR=/home/software/hadoop-2.7.1/etc/hadoop保存退出文件重新加载生效：source hadoop-env.sh
10、配置 core-site.xml
编辑core-site.xml：vim core-site.xml添加如下内容：
<configuration><property><!-- 指定HDFS中的主节点 - namenode --><name>fs.defaultFS</name><value>hdfs://hadoop01:9000</value></property><property><!-- 执行Hadoop运行时的数据存放目录 --><name>hadoop.tmp.dir</name><value>/home/software/hadoop-2.7.1/tmp</value></property></configuration>
11、配置 hdfs-site.xml
编辑hdfs-site.xml：vim hdfs-site.xml添加如下配置：
<configuration><property><!-- 设置HDFS中的复本数量 --><!-- 在伪分布式下，值设置为1 --><name>dfs.replication</name><value>1</value></property></configuration>
12、配置 mapred-site.xml
将mapred-site.xml.template复制为mapred-site.xml：
cp mapred-site.xml.template mapred-site.xml
编辑mapred-site.xml：
vim mapred-site.xml
添加如下配置：
<configuration><property><!-- 指定将MapReduce在Yarn上运行 --><name>mapreduce.framework.name</name><value>yarn</value></property></configuration>
13、配置 yarn-site.xml
编辑yarn-site.xml：
vim yarn-site.xml
添加如下内容：
<configuration><!-- 指定Yarn的主节点 - resourcemanager --><property><name>yarn.resourcemanager.hostname</name><value>hadoop01</value></property><!-- NodeManager的数据获取方式 --><property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value></property></configuration>
14、配置slaves
编辑slaves：
vim slaves
添加从节点信息，例如：hadoop01
保存退出
15、配置hadoop的环境变量
编辑profile文件：
vim /etc/profile
在最后添加Hadoop的环境变量，例如：
export HADOOP_HOME=/home/software/hadoop-2.7.1export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
保存退出重新生效：
source /etc/profile
16、格式化namenode
配置完环境变量后可以直接使用hadoop命令
hadoop namenode -format
17、启动hadoop
启动后可以访问hadoop
http://192.168.32.50:50070
start-all.sh
注意事项
1.如果Hadoop的配置没有生效，那么需要重启Linux 1.2.在格式化的时候，会有这样的输出：Storage directory /tmp/hadoop-root/dfs/name has been successfully formatted。如果出现这句话，说明格式化成功3.Hadoop如果启动成功，会出现5个进程：Namenode,Datanode,Secondarynamenode,ResourceManager,NodeManagerjps:显示jvm进程。
4.Hadoop启动成功后，可以通过浏览器访问HDFS的页面，访问地址为：IP地址:50070
5、Hadoop启动成功后，可以通过浏览器访问Yarn的页面，访问地址为：http://IP地址:8088
常见问题
1、执行Hadoop指令，比如格式化：hadoop namenode -format 出现：command找不到错误解决方案：检查：/etc/profile的Hadoop配置2、少HFDS相关进程，比如少namenode,datanode解决方案：可以去Hadoop 安装目录下的logs目录，查看对应进程的启动日志文件。方式一：①先停止HDFS相关的所有的进程（stop-dfs.sh 或 kill -9）②再启动HDFS（start-dfs.sh)方式二：①先停止HDFS相关的所有的进程 ②删除元数据目录 ③重新格式化：hadoop namenode -format④启动Hadoop：start-all.sh