Windows10 系统,安装配置HADOOP ,适用于3.0.0或者3.1.1版本
1.到官网上下载hadoop http://203.187.160.134:9011/www.apache.org/c3pr90ntc0td/dyn/closer.cgi/hadoop/common/hadoop-3.1.1/hadoop-3.1.1-src.tar.gz
2.解压然后配置:
core-site.xml 中配置:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
hdfs-site.xml 中配置:其中在hadoop文件下新建data文件夹,在data文件夹下新建namenode文件加和datanode文件夹
file地址,写自己的文件地址
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/D:/chromedownload/hadoop-3.1.1/data/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/D:/chromedownload/hadoop-3.1.1/data/datanode</value>
</property>
</configuration>
mapred-site.xml 中配置
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
yarn-site.xml 中配置:
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>127.0.0.1:8088</value>
</property>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>localhost</value>
</property>
</configuration>
3.配置完之后,到这个地址下载https://download.****.net/download/qq_33398459/10942809 bin 文件夹下需要的工具包
4.启动hdfs 和 yarn ,首先以 管理员身份 运行命令提示符 :到hadoop文件夹下的sbin路径下
输入:hdfs namenode -format 执行完后
5.执行 start-dfs.cmd 会另外开启两个窗口,没有报错,即启动成功
我启动报了 :java.lang.ClassNotFoundException: org.apache.hadoop.yarn.server.timelineservice.collect
解决方案:D:\chromedownload\hadoop-3.1.1\share\hadoop\yarn\timelineservice 将这个文件夹下的hadoop-yarn-server-timelineservice-3.1.1.jar 包 放到 这个路径下D:\chromedownload\hadoop-3.1.1\share\hadoop\yarn 即可解决。
这个网址解决了我多次运行 hdfs namenode -format 所遇到的datanode节点异常问题 https://blog.****.net/gis_101/article/details/52679914
6. 执行 yarn start-yarn.cmd 即可
都启动之后访问:http://localhost:8088/ 出现以下页面即为成功
再访问 http://localhost:9870/ 这个地址 出现以下页面即为成功: