当前位置:   article > 正文

Hadoop学习心得_hadoop实训个人总结与收获

hadoop实训个人总结与收获

一、Hadoop优势

高可靠性:Hadoop底层维护多个数据副本,所以即使Hadoop某个计算元素或存储出现故障,也不会导致数据的丢失
高扩展性:在集群间分配任务数据,可方便的扩展数以千计的节点(在执行时可以动态增加节点与删除节点)
高效性:在MapReduce的思想下,Hadoop是并行工作的,以加快任务处理速度
高容错性:能够自动将失败的任务重新分配

二、Hadoop组成

在这里插入图片描述

HDFS:主要解决海量数据的存储问题,分布式文件系统

NameNode(nn):存储文件的元数据,如文件名,文件目录结构,文件属性(生成时间、副本数、文件权限),以及每个文件的块列表和块所在的DataNode等
DataNode:在本地文件系统存储文件块数据,以及块数据的校验和
Secondary NameNode(2nn):每隔一段时间对NameNode元数据备份

YARN:另一种资源协调者,是Hadoop的资源管理器

ResourceManager(RM):管理整个集群资源(内存,CPU)
NodeManager(NM):管理单个节点服务器资源
ApplicationMaster(AM):管理单个任务的运行
Container:容器,相当于一台独立的服务器,里面封装了任务运行所需要的资源,如内存,CPU,磁盘,网络等(属于虚拟化技术)

客户端可以有多个
集群上可以运行多个ApplicationMaster
每个NodeManager上可以有多个Container

MapReduce:将计算过程分为两个阶段,Map和Reduce

Map阶段并行处理输入数据
Reduce阶段对Map结果进行汇总

HDFS,YARN,MapReduce三者关系

当客户端传入命令时,首先通过ResourceManager找到一台节点,开启一个Container,用于处理这个任务(ApplicationMaster),然后任务经过调度会告知ResourceManager该任务需要运行的资源,然后ApplicationMaster负责开启MapTask,这一阶段称为Map阶段,之后将Map阶段获取到的结果写到磁盘上,这一阶段称之为Reduce阶段,写入磁盘写入的是DataNode,这时还会在NameNode上进行记录元数据,还会在Secondary NameNode进行备份

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/盐析白兔/article/detail/398795
推荐阅读
相关标签
  

闽ICP备14008679号