当前位置:   article > 正文

Hadoop yarn详解

hadoop yarn

一、YARN概述(Yet Another Resource Negotiantor)

时至今日Hadoop已经走过了许多年头,目前已经到达第三代,相比第二代框架得基本架构上没有变化。但是二代相比第一代,却有很大得变化,独立出来了资源管理框架。第一代将资源调度交给mapreduce中的jobtracher。

二、YARN架构

preview

yarn主要由ResourceManager,ApplicationsMaster,NodeManager,Container。下面我们一一介绍。

1、ResourceManager

ResourceManager(简写RM),主要有处理客户端的请求,监控NodeManager,启动监控ApplicationMaster以及资源的调度和分配,他是全局的资源管理器。

它有两个组件组成Scheduler,以及Applications Manager。Scheduler只负责任务调度,分配资源给正在运行的应用程序。Applications Manager(注意与ApplicationMaster区分)主要负责管理系统中所有的应用程序,包括提交,启停等。

2、NodeManager

NodeManager(简写NM),主要监控单个节点上的资源,处理来自ResourceManager以及ApplicationsMaster的命令。hadoop 2中,每个datanode都会运行一个Nod

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/天景科技苑/article/detail/852444
推荐阅读
相关标签
  

闽ICP备14008679号