Windows10 系统,安装配置HADOOP ,适用于3.0.0或者3.1.1版本

1.到官网上下载hadoop http://203.187.160.134:9011/www.apache.org/c3pr90ntc0td/dyn/closer.cgi/hadoop/common/hadoop-3.1.1/hadoop-3.1.1-src.tar.gz

2.解压然后配置:

core-site.xml 中配置:

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

hdfs-site.xml 中配置:其中在hadoop文件下新建data文件夹,在data文件夹下新建namenode文件加和datanode文件夹

file地址,写自己的文件地址

<configuration>
 <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/D:/chromedownload/hadoop-3.1.1/data/namenode</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/D:/chromedownload/hadoop-3.1.1/data/datanode</value>
    </property>
</configuration>

mapred-site.xml 中配置

<configuration>
    <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
    </property>
</configuration>

yarn-site.xml 中配置:

<configuration>
    <property>
       <name>yarn.nodemanager.aux-services</name>
       <value>mapreduce_shuffle</value>
    </property>
    <property>
       <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
       <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
      <property>
                <name>yarn.resourcemanager.webapp.address</name>
                <value>127.0.0.1:8088</value>
        </property>
        <property>
    <name>yarn.resourcemanager.hostname</name>
    <value>localhost</value>
</property>
</configuration>

3.配置完之后,到这个地址下载https://download.****.net/download/qq_33398459/10942809 bin 文件夹下需要的工具包

4.启动hdfs 和 yarn ,首先以 管理员身份 运行命令提示符 :到hadoop文件夹下的sbin路径下

输入:hdfs namenode -format 执行完后

Windows10 系统,安装配置HADOOP ,适用于3.0.0或者3.1.1版本

5.执行 start-dfs.cmd 会另外开启两个窗口,没有报错,即启动成功

我启动报了 :java.lang.ClassNotFoundException: org.apache.hadoop.yarn.server.timelineservice.collect 

解决方案:D:\chromedownload\hadoop-3.1.1\share\hadoop\yarn\timelineservice 将这个文件夹下的hadoop-yarn-server-timelineservice-3.1.1.jar 包 放到 这个路径下D:\chromedownload\hadoop-3.1.1\share\hadoop\yarn 即可解决。

 

这个网址解决了我多次运行 hdfs namenode -format 所遇到的datanode节点异常问题 https://blog.****.net/gis_101/article/details/52679914

6. 执行 yarn start-yarn.cmd 即可

都启动之后访问:http://localhost:8088/ 出现以下页面即为成功

Windows10 系统,安装配置HADOOP ,适用于3.0.0或者3.1.1版本

 

再访问 http://localhost:9870/ 这个地址 出现以下页面即为成功:

Windows10 系统,安装配置HADOOP ,适用于3.0.0或者3.1.1版本