YARN-HA 配置_yarn ha

YARN-HA 工作机制

1）官方文档：
http://hadoop.apache.org/docs/r3.1.3/hadoop-yarn/hadoop-yarn-site/ResourceManagerHA.html
2）YARN-HA 工作机制

配置 YARN-HA 集群

1）环境准备
（1）修改 IP
（2）修改主机名及主机名和 IP 地址的映射
（3）关闭防火墙
（4）ssh 免密登录
（5）安装 JDK，配置环境变量等
（6）配置 Zookeeper 集群

2）规划集群

3）核心问题
a .如果当前 active rm 挂了，其他 rm 怎么将其他 standby rm 上位核心原理跟 hdfs 一样，利用了 zk 的临时节点
b. 当前 rm 上有很多的计算程序在等待运行,其他的 rm 怎么将这些程序接手过来接着跑 rm 会将当前的所有计算程序的状态存储在 zk 中,其他 rm 上位后会去读取，然后接着跑

4）具体配置
（1）yarn-site.xml

<?xml version="1.0" encoding="utf-8"?>

<configuration> 
  <property> 
    <name>yarn.nodemanager.aux-services</name>  
    <value>mapreduce_shuffle</value> 
  </property>  
  <!-- 启用 resourcemanager ha -->  
  <property> 
    <name>yarn.resourcemanager.ha.enabled</name>  
    <value>true</value> 
  </property>  
  <!-- 声明两台 resourcemanager 的地址 -->  
  <property> 
    <name>yarn.resourcemanager.cluster-id</name>  
    <value>cluster-yarn1</value> 
  </property>  
  <!--指定 resourcemanager 的逻辑列表-->  
  <property> 
    <name>yarn.resourcemanager.ha.rm-ids</name>  
    <value>rm1,rm2,rm3</value> 
  </property>  
  <!-- ========== rm1 的配置 ========== -->  
  <!-- 指定 rm1 的主机名 -->  
  <property> 
    <name>yarn.resourcemanager.hostname.rm1</name>  
    <value>hadoop102</value> 
  </property>  
  <!-- 指定 rm1 的 web 端地址 -->  
  <property> 
    <name>yarn.resourcemanager.webapp.address.rm1</name>  
    <value>hadoop102:8088</value> 
  </property>  
  <!-- 指定 rm1 的内部通信地址 -->  
  <property> 
    <name>yarn.resourcemanager.address.rm1</name>  
    <value>hadoop102:8032</value> 
  </property>  
  <!-- 指定 AM 向 rm1 申请资源的地址 -->  
  <property> 
    <name>yarn.resourcemanager.scheduler.address.rm1</name>  
    <value>hadoop102:8030</value> 
  </property>  
  <!-- 指定供 NM 连接的地址 -->  
  <property> 
    <name>yarn.resourcemanager.resource-tracker.address.rm1</name>  
    <value>hadoop102:8031</value> 
  </property>  
  <!-- ========== rm2 的配置 ========== -->  
  <!-- 指定 rm2 的主机名 -->  
  <property> 
    <name>yarn.resourcemanager.hostname.rm2</name>  
    <value>hadoop103</value> 
  </property>  
  <property> 
    <name>yarn.resourcemanager.webapp.address.rm2</name>  
    <value>hadoop103:8088</value> 
  </property>  
  <property> 
    <name>yarn.resourcemanager.address.rm2</name>  
    <value>hadoop103:8032</value> 
  </property>  
  <property> 
    <name>yarn.resourcemanager.scheduler.address.rm2</name>  
    <value>hadoop103:8030</value> 
  </property>  
  <property> 
    <name>yarn.resourcemanager.resource-tracker.address.rm2</name>  
    <value>hadoop103:8031</value> 
  </property>  
  <!-- ========== rm3 的配置 ========== -->  
  <!-- 指定 rm1 的主机名 -->  
  <property> 
    <name>yarn.resourcemanager.hostname.rm3</name>  
    <value>hadoop104</value> 
  </property>  
  <!-- 指定 rm1 的 web 端地址 -->  
  <property> 
    <name>yarn.resourcemanager.webapp.address.rm3</name>  
    <value>hadoop104:8088</value> 
  </property>  
  <!-- 指定 rm1 的内部通信地址 -->  
  <property> 
    <name>yarn.resourcemanager.address.rm3</name>  
    <value>hadoop104:8032</value> 
  </property>  
  <!-- 指定 AM 向 rm1 申请资源的地址 -->  
  <property> 
    <name>yarn.resourcemanager.scheduler.address.rm3</name>  
    <value>hadoop104:8030</value> 
  </property>  
  <!-- 指定供 NM 连接的地址 -->  
  <property> 
    <name>yarn.resourcemanager.resource-tracker.address.rm3</name>  
    <value>hadoop104:8031</value> 
  </property>  
  <!-- 指定 zookeeper 集群的地址 -->  
  <property> 
    <name>yarn.resourcemanager.zk-address</name>  
    <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value> 
  </property>  
  <!-- 启用自动恢复 -->  
  <property> 
    <name>yarn.resourcemanager.recovery.enabled</name>  
    <value>true</value> 
  </property>  
  <!-- 指定 resourcemanager 的状态信息存储在 zookeeper 集群 -->  
  <property> 
    <name>yarn.resourcemanager.store.class</name>  
    <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value> 
  </property>  
  <!-- 环境变量的继承 -->  
  <property> 
    <name>yarn.nodemanager.env-whitelist</name>  
    <value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLAS SPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value> 
  </property> 
</configuration>
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117

4）启动 YARN
（1）在 hadoop102 或者 hadoop103 中执行：

[root@hadoop102 ~]$ start-yarn.sh
1

（2）查看服务状态

[root@hadoop102 ~]$ yarn rmadmin -getServiceState rm1
1

（3）可以去 zkCli.sh 客户端查看 ResourceManager 选举锁节点内容：

[root@hadoop102 ~]$ zkCli.sh
[zk: localhost:2181(CONNECTED) 16] get -s 
/yarn-leader-election/cluster-yarn1/ActiveStandbyElectorLock
cluster-yarn1rm1
cZxid = 0x100000022
ctime = Tue Jul 14 17:06:44 CST 2020
mZxid = 0x100000022
mtime = Tue Jul 14 17:06:44 CST 2020
pZxid = 0x100000022
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x30000da33080005
dataLength = 20
numChildren = 0
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

（4）web 端查看 hadoop102:8088 和 hadoop103:8088 的 YARN 的状态

HADOOP HA 的最终规划

将整个 ha 搭建完成后,集群将形成以下模样

上图：