HDFS的写入过程
分类:
文章
•
2024-03-15 14:46:41
- Client发起文件上传请求，通过RPC与NameNode建立通讯，NameNode检查目标文件是否已经存在，父目录是否存在，返回是否可以上传。
- Client请求第一个block该传输到哪些DataNode服务器上
- NameNode根据配置文件中指定的备份数量以及机架感知原理进行文件分配，返回可用的DataNode的地址，如：A,B,C hadoop 在设计时考虑到数据的安全与高效，数据文件默认在HDFS上存放三份，存储策略为本地一份，同机架内其他一节点上一份，不同机架节点上一份。
- Client请求3台DataNode中的一台A上传数据（本质上是一个RPC调用，建立pipeline）,A收到请求会继续调用B，然后B调用C，将整个pipeline建立完成，后逐级返回client。
- Client开始往A上传第一个block（先从磁盘读取数据放到一个本地内存缓存），以packet为单位（默认64k）A收到一个packet就会传给B，B传给C，A每传一个packet会放入一个应答队列等待应答。
- 数据被分割成一个个packet数据包在pipeline上依次传输，在pipeline反方向上，逐个发送ack（命令正确应答），最终由pipeline中第一个DataNode节点A将pipelineack发送给Client。
- 当一个block传输完成之后，Client再次请求NameNode上传第二个block到服务1
