当前位置:   article > 正文

搭建zookeeper高可用集群详细步骤_高可用集群搭建详细步骤

高可用集群搭建详细步骤

目录

一、虚拟机设置

1.新建一台虚拟机并克隆三台,配置自定义

2.修改四台虚拟机的主机名并立即生效

3.修改四台虚拟机的网络信息

4.重启四台虚拟机的网络服务并测试网络连接

5.重启四台虚拟机,启动后关闭四台虚拟机的防火墙

6.在第一台虚拟机的/etc/hosts下面配置这四台主机映射 

7.将/etc/hosts安全分发到另外三台虚拟机

8.配置四台虚拟机免密登录

9.设置四台虚拟机时间同步

二、自动安装JDK和zookeeper

1.在第一台虚拟机的/opt/目录下新建install、soft和shell三个文件

2.上传jdk、zoookeeper压缩包到第一台虚拟机/opt/install/目录下

3.编写自动安装jdk和zookeeper脚本并赋予执行权限

4.执行/opt/shell/autoinstall.sh脚本

5.重启环境变量查看是否安装成功

6.来到/opt/soft/zk345/conf目录下,修改zoo.cfg文件,添加下面的内容

7.来到/opt/soft/zk345目录下,删除datas目录下所有的文件

8.将JDK和环境变量分发给三台虚拟机,将zookeeper分发给两台虚拟机

9.删除三台虚拟机的/opt/soft/zk345/datas目录下的所有文件,配置myid

10.编辑zookeeper集群开启脚本——zkop.sh

11.编写查询集群启动状态信息批量展示脚本——showjps.sh

12.执行zkop.sh和showjps.sh脚本,开启zookeeper集群

13.查看zookeeper集群状态

14.关闭zookeeper集群


一、虚拟机设置

1.新建一台虚拟机并克隆三台,配置自定义

也可以新建好一个,然后导出ovf,再打开

2.修改四台虚拟机的主机名并立即生效

  1. [root@localhost ~]# hostnamectl set-hostname 主机名
  2. [root@localhost ~]#bash
  3. [root@主机名~]# hostname
  4. 主机名

3.修改四台虚拟机的网络信息

vim /etc/sysconfig/network-script/ifcfg-ens33

4.重启四台虚拟机的网络服务并测试网络连接

  1. systemctl restart network.service
  2. # 或者
  3. service network restart

5.重启四台虚拟机,启动后关闭四台虚拟机的防火墙

  1. [root@ant165 ~]# systemctl stop firewalld
  2. [root@ant165 ~]# systemctl disable firewalld.service

6.在第一台虚拟机的/etc/hosts下面配置这四台主机映射 

[root@ant165 ~]# vim /etc/hosts

7.将/etc/hosts安全分发到另外三台虚拟机

  1. [root@ant165 .ssh]# scp /etc/hosts root@ant166:/etc/
  2. hosts 100% 250 18.3KB/s 00:00
  3. [root@ant165 .ssh]# scp /etc/hosts root@ant167:/etc/
  4. hosts 100% 250 162.4KB/s 00:00
  5. [root@ant165 .ssh]# scp /etc/hosts root@ant168:/etc/
  6. hosts 100% 250 169.3KB/s 00:00

8.配置四台虚拟机免密登录

  1. [root@ant165 ~]# ssh ant165
  2. The authenticity of host 'ant165 (192.168.180.165)' can't be established.
  3. ECDSA key fingerprint is SHA256:hQzFzPZt1T9MooVcHRLOnmC4hYlNsaG28J65Ovi10uc.
  4. ECDSA key fingerprint is MD5:46:97:1a:6c:02:8d:17:d6:98:d9:81:85:0e:a8:ca:5e.
  5. Are you sure you want to continue connecting (yes/no)? yes
  6. Warning: Permanently added 'ant165,192.168.180.165' (ECDSA) to the list of known hosts.
  7. root@ant165's password:
  8. Last login: Wed Feb 15 00:01:20 2023 from 192.168.180.1
  9. [root@ant165 ~]# ll -al
  10. total 32
  11. dr-xr-x---. 3 root root 163 Feb 15 00:04 .
  12. dr-xr-xr-x. 17 root root 224 Feb 14 23:13 ..
  13. -rw-------. 1 root root 1419 Feb 14 23:14 anaconda-ks.cfg
  14. -rw-------. 1 root root 312 Feb 15 00:01 .bash_history
  15. -rw-r--r--. 1 root root 18 Dec 29 2013 .bash_logout
  16. -rw-r--r--. 1 root root 176 Dec 29 2013 .bash_profile
  17. -rw-r--r--. 1 root root 176 Dec 29 2013 .bashrc
  18. -rw-r--r--. 1 root root 100 Dec 29 2013 .cshrc
  19. drwx------. 2 root root 25 Feb 15 00:04 .ssh
  20. -rw-r--r--. 1 root root 129 Dec 29 2013 .tcshrc
  21. -rw-------. 1 root root 575 Feb 15 00:04 .viminfo
  22. [root@ant165 ~]# cd .ssh
  23. [root@ant165 .ssh]# ll
  24. total 4
  25. -rw-r--r--. 1 root root 184 Feb 15 00:04 known_hosts

配置四台虚拟机免密登录:

  1. [root@ant165 .ssh]# ssh-keygen -t rsa -P ''
  2. [root@ant165 .ssh]# ssh-copy-id ant165
  3. #免密登录,两个命令都可以
  4. [root@ant165 .ssh]# ssh ant165 | ssh -p22 root@ant165

在其他三台虚拟机上重复上面的命令 

  1. [root@ant165 .ssh]# ssh-keygen -t rsa -P ''
  2. [root@ant165 .ssh]# ssh-copy-id ant165
  3. [root@ant165 .ssh]# ssh-copy-id ant166
  4. [root@ant165 .ssh]# ssh-copy-id ant167
  5. [root@ant165 .ssh]# ssh-copy-id ant168

9.设置四台虚拟机时间同步

  1. [root@ant165 ~]# yum -y install ntpdate
  2. [root@ant165 ~]# ntpdate time.windows.com
  3. 14 Feb 16:33:52 ntpdate[11365]: step time server 40.81.94.65 offset -28800.832564 sec
  4. [root@ant165 ~]# date
  5. Tue Feb 14 16:33:54 CST 2023
  6. [root@ant165 ~]# crontab -e
  7. */10 * * * * /usr/sbin/ntpdate time.windows.com
  8. # 重新加载脚本
  9. [root@ant165 ~]# systemctl reload crond
  10. # 重启脚本
  11. [root@ant165 ~]# systemctl restart crond
  12. # 查看脚本状态
  13. [root@ant165 ~]# systemctl status crond
  14. ● crond.service - Command Scheduler
  15. Loaded: loaded (/usr/lib/systemd/system/crond.service; enabled; vendor preset: enabled)
  16. Active: active (running) since Tue 2023-02-14 16:36:13 CST; 8s ago
  17. Process: 11376 ExecReload=/bin/kill -HUP $MAINPID (code=exited, status=0/SUCCESS)
  18. Main PID: 11386 (crond)
  19. CGroup: /system.slice/crond.service
  20. └─11386 /usr/sbin/crond -n
  21. Feb 14 16:36:13 ant165 systemd[1]: Started Command Scheduler.
  22. Feb 14 16:36:13 ant165 systemd[1]: Starting Command Scheduler...
  23. Feb 14 16:36:13 ant165 crond[11386]: (CRON) INFO (RANDOM_DELAY will be s...)
  24. Feb 14 16:36:13 ant165 crond[11386]: (CRON) INFO (running with inotify s...)
  25. Feb 14 16:36:13 ant165 crond[11386]: (CRON) INFO (@reboot jobs will be r...)
  26. Hint: Some lines were ellipsized, use -l to show in full.

二、自动安装JDK和zookeeper

1.在第一台虚拟机的/opt/目录下新建install、soft和shell三个文件

  1. [root@ant165 opt]# mkdir install
  2. [root@ant165 opt]# mkdir soft
  3. [root@ant165 opt]# mkdir shell

2.上传jdk、zoookeeper压缩包到第一台虚拟机/opt/install/目录下

3.编写自动安装jdk和zookeeper脚本并赋予执行权限

  1. [root@ant165 shell]# vim autoinstall.sh
  2. #! /bin/bash
  3. echo 'auto install begining...'
  4. # global var
  5. jdk=true
  6. if [ "$jdk" = true ];then
  7. echo 'jdk install set true'
  8. echo 'setup jdk 8'
  9. tar -zxf /opt/install/jdk-8u321-linux-x64.tar.gz -C /opt/soft
  10. mv /opt/soft/jdk1.8.0_321 /opt/soft/jdk180
  11. sed -i '73a\export PATH=$PATH:$JAVA_HOME/bin' /etc/profile
  12. sed -i '73a\export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar' /etc/profile
  13. sed -i '73a\export JAVA_HOME=/opt/soft/jdk180' /etc/profile
  14. sed -i '73a\# JAVA_HOME' /etc/profile
  15. echo 'setup jdk8 success!!!'
  16. fi
  17. # global var
  18. zk=true
  19. hostname=`hostname`
  20. if [ "$zk" = true ];then
  21. echo 'zookeeper install set true'
  22. echo 'setup zookeeper-3.4.5-cdh5.14.2.tar.gz'
  23. tar -zxf /opt/install/zookeeper-3.4.5-cdh5.14.2.tar.gz -C /opt/soft/
  24. mv /opt/soft/zookeeper-3.4.5-cdh5.14.2 /opt/soft/zk345
  25. cp /opt/soft/zk345/conf/zoo_sample.cfg /opt/soft/zk345/conf/zoo.cfg
  26. mkdir -p /opt/soft/zk345/datas
  27. sed -i '12c dataDir=/opt/soft/zk345/datas' /opt/soft/zk345/conf/zoo.cfg
  28. echo "server.0=$hostname:2287:3387" >> /opt/soft/zk345/conf/zoo.cfg
  29. echo "0" > /opt/soft/zk345/datas/myid
  30. sed -i '73a\export PATH=$PATH:$ZOOKEEPER_HOME/bin' /etc/profile
  31. sed -i '73a\export ZOOKEEPER_HOME=/opt/soft/zk345' /etc/profile
  32. sed -i '73a\#ZOOKEEPER_HOME' /etc/profile
  33. echo 'setup zookeeper success!!!'
  34. fi

赋予执行权限

[root@ant165 shell]# chmod 777 ./autoinstall.sh 

4.执行/opt/shell/autoinstall.sh脚本

5.重启环境变量查看是否安装成功

  1. [root@ant165 shell]# source /etc/profile
  2. [root@ant165 shell]# javac
  3. [root@ant165 shell]# zkServer.sh start
  4. JMX enabled by default
  5. Using config: /opt/soft/zk345/bin/../conf/zoo.cfg
  6. Starting zookeeper ... STARTED
  7. [root@ant165 shell]# jps
  8. 11731 QuorumPeerMain
  9. 11753 Jps
  10. [root@ant165 shell]# zkServer.sh status
  11. JMX enabled by default
  12. Using config: /opt/soft/zk345/bin/../conf/zoo.cfg
  13. Mode: standalone

出现上面的信息就说明zookeeper单机版安装成功

6.来到/opt/soft/zk345/conf目录下,修改zoo.cfg文件,添加下面的内容

7.来到/opt/soft/zk345目录下,删除datas目录下所有的文件

[root@ant165 zk345]# rm -rf ./datas/*

8.将JDK和环境变量分发给三台虚拟机,将zookeeper分发给两台虚拟机

  1. # 分发/opt下的soft目录:
  2. [root@ant165 ~]# scp -r /opt/soft/ root@ant166:/opt/
  3. [root@ant165 ~]# scp -r /opt/soft/ root@ant167:/opt/
  4. [root@ant165 ~]# scp -r /opt/soft/ root@ant168:/opt/
  5. # 分发JDK:
  6. [root@ant165 datas]# scp -r /opt/soft/jdk180/ root@ant166:/opt/soft/
  7. [root@ant165 datas]# scp -r /opt/soft/jdk180/ root@ant167:/opt/soft/
  8. [root@ant165 datas]# scp -r /opt/soft/jdk180/ root@ant168:/opt/soft/
  9. # 分发zookeeper:
  10. [root@ant165 datas]# scp -r /opt/soft/zk345/ root@ant166:/opt/soft/
  11. [root@ant165 datas]# scp -r /opt/soft/zk345/ root@ant167:/opt/soft/
  12. # 分发环境变量:
  13. [root@ant165 datas]# scp /etc/profile root@ant166:/etc/
  14. profile 100% 2032 200.1KB/s 00:00
  15. [root@ant165 datas]# scp /etc/profile root@ant167:/etc/
  16. profile 100% 2032 1.3MB/s 00:00
  17. [root@ant165 shell]# scp /etc/profile root@ant168:/etc/
  18. profile 100% 2032 1.6MB/s 00:00
  19. [root@ant165 shell]# ./showjps.sh

9.删除三台虚拟机的/opt/soft/zk345/datas目录下的所有文件,配置myid

  1. [root@ant165 datas]# rm -rf /opt/soft/zk345/datas/*
  2. [root@ant165 datas]# echo "0" > myid
  3. [root@ant166 datas]# rm -rf /opt/soft/zk345/datas/*
  4. [root@ant166 datas]# echo "1" > myid
  5. [root@ant167 datas]# rm -rf /opt/soft/zk345/datas/*
  6. [root@ant167 datas]# echo "2" > myid

10.编辑zookeeper集群开启脚本——zkop.sh

  1. #! /bin/bash
  2. case $1 in
  3. "start"){
  4. for i in ant165 ant166 ant167
  5. do
  6. ssh $i "source /etc/profile; /opt/soft/zk345/bin/zkServer.sh start"
  7. done
  8. };;
  9. "stop"){
  10. for i in ant165 ant166 ant167
  11. do
  12. ssh $i "source /etc/profile; /opt/soft/zk345/bin/zkServer.sh stop"
  13. done
  14. };;
  15. "status"){
  16. for i in ant165 ant166 ant167
  17. do
  18. ssh $i "source /etc/profile; /opt/soft/zk345/bin/zkServer.sh status"
  19. done
  20. };;
  21. esac

赋予执行权限

[root@ant165 shell]# chmod 777 ./zkop.sh

11.编写查询集群启动状态信息批量展示脚本——showjps.sh

  1. #! /bin/bash
  2. for i in ant165 ant166 ant167 ant168
  3. do
  4. echo ---------------- $i 服务启动状态 -----------------
  5. ssh $i "source /etc/profile; /opt/soft/jdk180/bin/jps "
  6. done

赋予执行权限

[root@ant165 shell]# chmod 777 ./showjps.sh

12.执行zkop.sh和showjps.sh脚本,开启zookeeper集群

zookeeper集群成功开启!!!

13.查看zookeeper集群状态

14.关闭zookeeper集群

后续搭建Hadoop集群参考博文《基于zookeeper的Hadoop集群搭建详细步骤

声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop博客】
推荐阅读
相关标签
  

闽ICP备14008679号