您的位置: 首页  >  文章  >  MapReduce原理——第四节（1）

MapReduce原理——第四节（1）

分类: 文章 • 2024-03-18 08:51:46

1. MAPREDUCE原理篇（1）

Mapreduce是一个分布式运算程序的编程框架，是用户开发“基于hadoop的数据分析应用”的核心框架；

Mapreduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序，并发运行在一个hadoop集群上；

 

1.1 为什么要MAPREDUCE

（1）海量数据在单机上处理因为硬件资源限制，无法胜任

（2）而一旦将单机版程序扩展到集群来分布式运行，将极大增加程序的复杂度和开发难度

（3）引入mapreduce框架后，开发人员可以将绝大部分工作集中在业务逻辑的开发上，而将分布式计算中的复杂性交由框架来处理

 

设想一个海量数据场景下的wordcount需求：

单机版：内存受限，磁盘受限，运算能力受限

分布式：

  1. 文件分布式存储（HDFS）
  2. 运算逻辑需要至少分成2个阶段（一个阶段独立并发，一个阶段汇聚）
  3. 运算程序如何分发
  4. 程序如何分配运算任务（切片）
  5. 两阶段的程序如何启动？如何协调？
  6. 整个程序运行过程中的监控？容错？重试？

 

可见在程序由单机版扩成分布式时，会引入大量的复杂工作。为了提高开发效率，可以将分布式程序中的公共功能封装成框架，让开发人员可以将精力集中于业务逻辑。

 

而mapreduce就是这样一个分布式程序的通用框架，其应对以上问题的整体结构如下：

  1. MRAppMaster(mapreduce application master)
  2. MapTask
  3. ReduceTask 

 

1.2 MAPREDUCE框架结构及核心运行机制

1.2.1 结构

一个完整的mapreduce程序在分布式运行时有三类实例进程：

1、MRAppMaster：负责整个程序的过程调度及状态协调

2、mapTask：负责map阶段的整个数据处理流程

3、ReduceTask：负责reduce阶段的整个数据处理流程

1.2.2 MR程序运行流程

1.2.2.1 流程示意图

MapReduce原理——第四节（1）

1.2.2.2 流程解析

  1. 一个mr程序启动的时候，最先启动的是MRAppMaster，MRAppMaster启动后根据本次job的描述信息，计算出需要的maptask实例数量，然后向集群申请机器启动相应数量的maptask进程

 

  1. maptask进程启动之后，根据给定的数据切片范围进行数据处理，主体流程为：
    1. 利用客户指定的inputformat来获取RecordReader读取数据，形成输入KV对
    2. 将输入KV对传递给客户定义的map()方法，做逻辑运算，并将map()方法输出的KV对收集到缓存
    3. 将缓存中的KV对按照K分区排序后不断溢写到磁盘文件

 

  1. MRAppMaster监控到所有maptask进程任务完成之后，会根据客户指定的参数启动相应数量的reducetask进程，并告知reducetask进程要处理的数据范围（数据分区）

 

  1. Reducetask进程启动之后，根据MRAppMaster告知的待处理数据所在位置，从若干台maptask运行所在机器上获取到若干个maptask输出结果文件，并在本地进行重新归并排序，然后按照相同key的KV为一个组，调用客户定义的reduce()方法进行逻辑运算，并收集运算输出的结果KV，然后调用客户指定的outputformat将结果数据输出到外部存储

 

相关推荐