当前位置:   article > 正文

docker搭建hadoop集群(为分布式、完全分布式)_时空无限 csdn

时空无限 csdn

第1章 写在前面必读

1.1 Hadoop生态简单说明

说明:hadoop只是一个存储数据的平台,mapreduce是一个计算框架,需要编程人员去编写处理数据的程序。然后hadoop是一个生态,就是说在其上还运行着hbase数据库,sqoop,shark等等工具,这样才能将hadoop存储的数据加以利用。Hbase是一种时序数据库,可用来往hadoop写数据,并通过hadoop读取数据,搭建这些的时候还要用到zookeeper软件去管理消息。总之hadoop生态涉及的东西太多,学习起来复杂,但是并不难,就是多看官网,理清概念。

1.2 本文的目的

如果想在一台电脑上搭建一个多节点的Hadoop集群,传统的方式是使用多个虚拟机。但这种方式占用的资源比较多,一台笔记本能同时运行的虚拟机的数量是很有限的。这个时候我们可以使用Docker。Docker可以看做是一种轻量级的虚拟机,占用资源少,用起来和传统的虚拟机很像,使用的时候可以类比VMware或VirtualBox。
本文不能让你精通Docker,但能让你快速上手,并搭建好这个集群,前提是你对Hadoop和Linux有所了解。

第2章 准备工作

2.1 准备Docker宿主机

目前Docker只能运行在内核版本为3.10或以上的64位Linux上。安装Docker的Linux系统称为Docker的宿主机。如果你的系统不符合,可以先安装一台符合要求的虚拟机,然后再在这个虚拟机上使用Docker。我的笔记本是Windows系统,装了一台64位CentOS7.3虚拟机做演示。由于要将10个节点都跑在一台虚拟机上,所以给这台虚拟机分配的资源不能太少,否则会有问题。虽然Docker比虚拟机省了不少资源,但Hadoop需要的资源省不了啊。我给分配了2个核,4G内存,这比用10台虚拟机需要的资源还是小很多的。另外因为只需要一台Linux,所以在笔记本上装双系统也是可以的。

2.2 准备相关软件

JDK使用jdk-8u181-linux-x64.tar.gz
Hadoop使用hadoop-2.8.0.tar.gz
将JDK和Hadoop提前下载并减压,放到Docker宿主机上备用。
在这里插入图片描述

第3章 安装Docker

现在Docker分为社区版Docker CE和企业版Docker EE。Docker CE免费,Docker EE收费。Docker CE又分为Docker CE Edge和Docker CE Stable。Docker CE Edge每1个月发布一个版本,Docker CE Stable每3个月发布一个版本。Stable表示稳定版,所以下面只介绍Docker CE Stable。

3.1 安装yum-utils

yum install -y yum-utils

3.2 添加Docker CE的yum源

yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
  • 1

在这里插入图片描述

3.3 更新yum包索引

yum makecache fast

3.4 安装Docker CE

yum install docker-ce -y

3.5 启动Docker

systemctl start docker

3.6 查看Docker版本

docker -v
默认安装的是最新版本,我们可以看到当前最新版本是Docker version 17.03.1-ce, build c6d412e。

3.7 去掉sudo

对于非root用户,很多Docker命令都必须用sudo才能正常执行。比如不用sudo运行刚才的hello-world示例会出现下面的错误提示:

老用sudo挺麻烦的,下面介绍解决的办法。Docker在安装的时候会生成一个叫docker的用户组,只要把你使用的用户加到这个组里就能免sudo了。
下面我们来加入docker组
useradd zld
usermod -aG docker zld
然后退出当前shell,重新登录一下,以后就不用sudo了。

3.8 Docker镜像基本操作

Docker的服务器上有很多镜像,分为两类,一类是Docker官方的,另一类是普通用户上传的。Docker把他们放镜像的地方叫做Docker Hub。

1.搜索镜像

docker search centos
  • 1

在这里插入图片描述

在搜索结果列表中OFFICIAL列中有[OK]的表示是官方的镜像。我们看到第一个就是官方的。

3.9 创建并运行容器

docker run -it -h pseudo-distributed --name pseudo-distributed centos
  • 1

说明:
docker run 表示创建一个容器并运行。
-it  表示容器运行后直接进入容器内部的命令行。此时就可以像操作虚拟机一样操作这个容器了。
-h  表示容器的主机名hostname,和虚拟机的hostname一样。如果不指定,Docker会用CONTAINER ID来作为hostname。
–name 表示容器的名称。这个前面已经提到了,如果自己不指定,Docker会自动分配一个名称。不过还是自己指定的更有意义。
其中主机名和容器名一不一样都行,我这里是给了一样的,都是pseudo-distributed。
最后一个参数centos是镜像名称,表示该容器用哪个镜像创建。
这个过程类似于用ISO文件装系统。

3.10 退出当前容器并保持其继续运行

快捷键Ctrl+p+q

3.11 进入正在运行的容器

docker attach pseudo-distributed

3.12 退出当前容器并停止其运行

exit

3.13 启动已停止运行的容器

docker start -i pseudo-distributed

3.14 关闭正在运行的容器

docker stop pseudo-distributed

第4章 搭建Hadoop伪分布模式

我们先用前面创建的这个容器来搭建Hadoop伪分布模式做测试,测试成功后再搭建完全分布式集群。

4.1 SSH

这个centos容器可以看做是一个非常精简的系统,很多功能没有,需要自己安装。
Hadoop需要SSH,但容器没有自带,需要我们安装。
安装SSH
yum -y install openssh-clients openssh-server

生成3个key文件
ssh-keygen -t rsa -f /etc/ssh/ssh_host_rsa_key
一路回车

ssh-keygen -t ecdsa -f /etc/ssh/ssh_host_ecdsa_key
一路回车

ssh-keygen -t ed25519 -f /etc/ssh/ssh_host_ed25519_key
一路回车

启动sshd
/usr/sbin/sshd

修改root密码
因为默认的密码不知道,我们重新设置一下。
passwd root

设置ssh免密登录到本机
ssh-keygen
一路回车

ssh-copy-id localhost
输入root密码

ssh localhost
免密登录成功
exit
退回到刚才的shell中。

4.2 which

运行hadoop需要which命令,同样容器没有自带,需要我们安装。
yum -y install which

4.3 文件复制

下面我们将已经提前准备好的JDK和Hadoop从宿主机上复制到容器中。注意,复制操作要在Docker宿主机上进行。
docker cp /opt/jdk1.8.0_181/ / pseudo-distributed:/root/
docker cp /opt/hadoop-2.8.0/ pseudo-distributed:/root/
在容器中可以看到JDK和Hadoop已复制到位。

4.4 配置环境变量并在容器启动时启动sshd

在/etc/profile.d中新建一个run.sh文件
在run.sh文件中写入下面6行内容:
export JAVA_HOME=/root/jdk1.8.0_181
export PATH= P A T H : PATH: PATH:JAVA_HOME/bin
export HADOOP_HOME=/root/hadoop-2.8.0
export PATH= P A T H : PATH: PATH:HADOOP_HOME/bin: H A D O O P H O M E / s b i n e x p o r t H A D O O P C O N F D I R = HADOOP_HOME/sbin export HADOOP_CONF_DIR= HADOOPHOME/sbinexportHADOOPCONFDIR=HADOOP_HOME/etc/hadoop
/usr/sbin/sshd

用exit命令退出容器,重新启动并进入容器,上面配置的环境变量会生效,sshd也会启动。

4.5 hadoop伪分布式配置

1、配置hadoop-env.sh

将export JAVA_HOME=${JAVA_HOME}中的${JAVA_HOME}替换为具体路径,这里为export JAVA_HOME=/root/jdk1.8.0_181。
  • 1

2、配置core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

3、配置hdfs-site.xml

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
</configuration>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

4、配置mapred-site.xml

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

5、配置yarn-site.xml

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
</configuration>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

6、启动伪分布集群并运行wordcount示例程序

准备测试数据
在/root目录底下新建一个input文件夹,在这个文件夹中新建一个test.txt文件,里面随便写点单词,然后将该文件多复制几份,我这里复制了5份。

4.6 格式化namenode

hdfs namenode -format

4.7 启动HDFS

start-dfs.sh

4.8 启动YARN

start-yarn.sh

4.9 查看相关进程是否都启动

jps
如有以下5个进程,说明启动成功。
DataNode
NodeManager
NameNode
SecondaryNameNode
ResourceManager

4.10 将测试数据复制到HDFS中

hdfs dfs -put /root/input /
  • 1

4.11 运行wordcount示例程序

hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.8.0.jar wordcount /input /output
  • 1

4.12 查看输出结果

hdfs dfs -cat /output/part-r-00000
从截图可以看出输出正确。伪分布式测试完毕。

第5章 搭建Hadoop完全分布式集群

5.1 集群规划

1个NameNode节点
1个SecondaryNameNode节点
1个ResourceManager节点
1个JobHistory节点
5个Slave节点
1个Client节点

其中Slave节点包含DataNode和NodeManager两种角色。
Client节点是用来操作的节点,所有操作都尽量在这个节点上进行。
以上共10个节点,7种角色。

5.2 将上面的伪分布式容器打包成镜像

理论上,我们只要将上面的伪分布式容器复制10份,然后改改配置文件就行了。但是Docker容器不能直接复制,需要先打包成镜像,然后用这个镜像生成10个新的容器。
命令如下:
docker commit -a “zld” -m “Hadoop在centos上搭建的伪分布模式。” pseudo-distributed hadoop-centos:v1
-a 表示作者。
-m 表示对该镜像的说明。
pseudo-distributed 被打包容器的名称
hadoop-centos:v1 生成镜像的名称及版本
需要知道的是,因为这个被打包的容器是通过centos镜像创建的,所以由该容器打包成的新镜像也包含了centos镜像。

5.3 创建网络

docker network create hadoop_nw
这里新建了一个叫hadoop_nw的网络,后面将10个Hadoop节点容器都加入到该网络,就能相互间通信了。而且不需要配置hosts文件,直接通过容器名称即可访问。
docker network ls
通过该命令可以查看所有的网络,除了我们刚创建的hadoop_nw网络,其它都是安装Docker时自动生成的,在本文中不用管它们。

5.4 用新生成的镜像创建10个容器

docker run -itd --network hadoop_nw -h namenode --name namenode -p 50070:50070 hadoop-centos:v1

docker run -itd --network hadoop_nw -h secondarynamenode --name secondarynamenode hadoop-centos:v1

docker run -itd --network hadoop_nw -h resourcemanager --name resourcemanager -p 8088:8088 hadoop-centos:v1

docker run -itd --network hadoop_nw -h jobhistory --name jobhistory -p 19888:19888 hadoop-centos:v1

docker run -itd --network hadoop_nw -h slave1 --name slave1 hadoop-centos:v1

docker run -itd --network hadoop_nw -h slave2 --name slave2 hadoop-centos:v1

docker run -itd --network hadoop_nw -h slave3 --name slave3 hadoop-centos:v1

docker run -itd --network hadoop_nw -h slave4 --name slave4 hadoop-centos:v1

docker run -itd --network hadoop_nw -h slave5 --name slave5 hadoop-centos:v1

docker run -itd --network hadoop_nw -h client --name client hadoop-centos:v1
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19

-itd     表示打开终端但不进入
–network  表示加入到哪个网络
-p      表示端口映射
从上面可以看到namenode、resourcemanager和jobhistory这3个节点做了端口映射。端口映射的作用是将Docker宿主机的某个端口映射到容器的某个端口上,这样我们通过访问Docker宿主机的这个端口就能间接访问到相应的容器端口了。就像从外网访问内网中的某台机器一样。我们在后面通过浏览器查看集群信息的时候会用到。

5.5 修改Hadoop配置文件

我们在client节点修改,然后复制到其它节点。

1、配置core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://namenode:9000</value>
    </property>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/root/hadoop-2.8.0/data</value>
    </property>
</configuration>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

2、配置hdfs-site.xml

<configuration>
    <property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>secondarynamenode:50090</value>
    </property>
</configuration>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

3、配置mapred-site.xml

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
    <property>
        <name>mapreduce.jobhistory.address</name>
        <value>jobhistory:10020</value>
    </property>
    <property>
        <name>mapreduce.jobhistory.webapp.address</name>
        <value>jobhistory:19888</value>
    </property>
</configuration>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

4、配置yarn-site.xml

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>resourcemanager</value>
    </property>
</configuration>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

5、配置slaves文件

cat slaves
slave1
slave2
slave3
slave4
slave5

6、配置节点间SSH免密登录

在client节点执行:

ssh-copy-id namenode
ssh-copy-id secondarynamenode
ssh-copy-id resourcemanager
ssh-copy-id jobhistory
ssh-copy-id slave1
ssh-copy-id slave2
ssh-copy-id slave3
ssh-copy-id slave4
ssh-copy-id slave5
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

在resourcemanager节点执行:

ssh-copy-id slave1
ssh-copy-id slave2
ssh-copy-id slave3
ssh-copy-id slave4
ssh-copy-id slave5
  • 1
  • 2
  • 3
  • 4
  • 5

7、复制配置文件到所有节点

在client节点执行:

scp -r $HADOOP_HOME/etc/hadoop namenode:$HADOOP_HOME/etc
scp -r $HADOOP_HOME/etc/hadoop secondarynamenode:$HADOOP_HOME/etc
scp -r $HADOOP_HOME/etc/hadoop resourcemanager:$HADOOP_HOME/etc
scp -r $HADOOP_HOME/etc/hadoop jobhistory:$HADOOP_HOME/etc
scp -r $HADOOP_HOME/etc/hadoop slave1:$HADOOP_HOME/etc
scp -r $HADOOP_HOME/etc/hadoop slave2:$HADOOP_HOME/etc
scp -r $HADOOP_HOME/etc/hadoop slave3:$HADOOP_HOME/etc
scp -r $HADOOP_HOME/etc/hadoop slave4:$HADOOP_HOME/etc
scp -r $HADOOP_HOME/etc/hadoop slave5:$HADOOP_HOME/etc
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

5.6 启动Hadoop集群

在client节点执行:

1、格式化namenode

ssh namenode "hdfs namenode -format"
  • 1

2、启动HDFS集群

start-dfs.sh
  • 1

3、启动YARN集群

ssh resourcemanager "start-yarn.sh"
  • 1

4、启动JobHistory

ssh jobhistory "mr-jobhistory-daemon.sh --config $HADOOP_CONF_DIR start historyserver"
  • 1

5.7 在浏览器中查看集群信息

由于指定过相应容器的端口映射,我在我的Windows上用浏览器访问Docker宿主机相应的端口就能访问到容器。
HDFS http://Docker宿主机IP:50070/
YARN http://Docker宿主机IP:8088/
jobhistory http://Docker宿主机IP:19888/
从web上可以看到集群正常:
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

5.8 运行wordcount示例程序

1、将测试数据复制到HDFS中

hdfs dfs -put /root/input /
  • 1

2、运行wordcount示例程序

hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.8.0.jar wordcount /input /output
  • 1

3、查看输出结果

hdfs dfs -cat /output/part-r-00000
  • 1

第6章 Docker搭建zookeeper集群

6.1 创建centos容器

docker run -it -h pseudo-distributed --name pseudo-distributed centos
  • 1

6.2 进入正在运行的容器

docker attach  pseudo-distributed
  • 1

6.3 SSH

这个centos容器可以看做是一个非常精简的系统,很多功能没有,需要自己安装。
Hadoop需要SSH,但容器没有自带,需要我们安装。
安装SSH

yum -y install openssh-clients openssh-server
  • 1

生成3个key文件

ssh-keygen -t rsa -f /etc/ssh/ssh_host_rsa_key
  • 1

一路回车

ssh-keygen -t ecdsa -f /etc/ssh/ssh_host_ecdsa_key
  • 1

一路回车

ssh-keygen -t ed25519 -f /etc/ssh/ssh_host_ed25519_key
  • 1

一路回车

启动sshd

/usr/sbin/sshd
  • 1

修改root密码
因为默认的密码不知道,我们重新设置一下。

passwd root
  • 1

设置ssh免密登录到本机

ssh-keygen
  • 1

一路回车

ssh-copy-id localhost
  • 1

输入root密码

ssh localhost
  • 1

免密登录成功
exit
退回到刚才的shell中。

6.4 which

运行hadoop需要which命令,同样容器没有自带,需要我们安装。

yum -y install which
  • 1

6.5 文件复制

下面我们将已经提前准备好的JDK和Hadoop从宿主机上复制到容器中。注意,复制操作要在Docker宿主机上进行。

docker cp /opt/jdk1.8.0_181/  pseudo-distributed:/root/
docker cp /opt/zookeeper-3.4.10/ pseudo-distributed:/root/
  • 1
  • 2

在容器中可以看到JDK和zookeeper已复制到位。

6.6 配置环境变量并在容器启动时启动sshd

在/etc/profile.d中新建一个run.sh文件
在run.sh文件中写入下面6行内容:

export JAVA_HOME=/root/jdk1.8.0_181
export PATH=$PATH:$JAVA_HOME/bin:/root/zookeeper-3.4.10/bin
export HADOOP_HOME=/root/hadoop-2.8.0
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
/usr/sbin/sshd
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

用exit命令退出容器,重新启动并进入容器,上面配置的环境变量会生效,sshd也会启动。

6.7 打包镜像

docker commit -a "zld" -m "Hadoop在centos上搭建的伪分布模式。" pseudo-distributed zookeeper-centos:v1
  • 1

6.8 创建网络

docker network create hadoop_nw
  • 1

这里新建了一个叫hadoop_nw的网络,后面将10个Hadoop节点容器都加入到该网络,就能相互间通信了。而且不需要配置hosts文件,直接通过容器名称即可访问。

docker network ls
  • 1

通过该命令可以查看所有的网络,除了我们刚创建的hadoop_nw网络,其它都是安装Docker时自动生成的,在本文中不用管它们。

6.9 用新生成的镜像创建3个容器

docker run -itd --network hadoop_nw -h zookeeper01 --name zookeeper01zookeeper-centos:v1
docker run -itd --network hadoop_nw -h zookeeper02 --name zookeeper02zookeeper-centos:v1
docker run -itd --network hadoop_nw -h zookeeper03 --name zookeeper03zookeeper-centos:v1
  • 1
  • 2
  • 3

6.10 修改zookeeper配置文件

docker attach zookeeper01
cd /root/zookeeper-3.4.10
mkdir data
mkdir logs
  • 1
  • 2
  • 3
  • 4

vi /root/zookeeper-3.4.10/conf/zoo.cfg
# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
dataDir=/root/zookeeper-3.4.10/data
dataLogDir=/root/zookeeper-3.4.10/logs
# the port at which the clients will connect
clientPort=2181

server.1=zookeeper01:2888:3888
server.2=zookeeper02:2888:3888
server.3=zookeeper03:2888:3888
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
vi /root/zookeeper-3.4.10/data/myid
1
  • 1
  • 2

6.11 复制配置文件到其他节点

scp -r /root/zookeeper-3.4.10/ zookeeper02:/root/
scp -r /root/zookeeper-3.4.10/ zookeeper03:/root/

6.12 修改其他节点的id

zookeeper02节点

vi /root/zookeeper-3.4.10/data/myid
2
  • 1
  • 2

zookeeper03节点

vi /root/zookeeper-3.4.10/data/myid
3
  • 1
  • 2

6.13 分别启动zookeeper

zkServer.sh start
  • 1

6.14 查看zookeeper的状态

3台主机都执行,看待的状态是不一样的,一个leader,两个follower
zkServer.sh status
至此:zookeeper集群安装完毕!

第7章 搭建hbase全分布式集群

说明:hbase跑在hadoop之上,故不需要再启动新的容器,本文把habse集群跑在了hadoop的slave节点。

7.1 复制hbase目录到slave

说明:在宿主机操作
需要的安装包
下载安装包
hbase-1.3.0-bin.tar.gz
解压到/opt/目录底下
复制hbase目录到slave1
docker cp /opt/hbase-1.3.0/ slave1:/root/

7.2 进slave1改hbase配置

说明:slave1容器里操作
vi /root/hbase-1.3.0/conf/hbase-env.sh
#改hbase-env.sh配置,配置java环境变量,关闭自带模式,启动集群模式

export JAVA_HOME=/disk/jdk/
export HBASE_MANAGES_ZK=false
  • 1
  • 2

#注意这里加上hadoop的conf路径的环境变量,或者把hadoop的conf中的core-site.xml和hdfs-site.xml文件复制到hbase的conf下

export HADOOP_HOME=/root/hadoop-2.8.0
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
  • 1
  • 2

#改hbase-site.xml配置(特别需要说明的是如果配置了hadoop的ha模式,hbase.rootdir这个配置要改成core-site.xml中fs.defaultFS参数下的根目录,比如该参数是hdfs://bdcluster那么hbase.rootdir要改成hdfs://bdcluster/hbase,如果是单节点的namenode,hbase.rootdir的配置改成hdfs://主机名:端口/hbase)

<configuration>
<property> 
<name>hbase.rootdir</name> 
<value>hdfs://namenode:9000/hbase</value> 
</property>
<property> 
<name>hbase.cluster.distributed</name> 
<value>true</value> 
</property> 
<property> 
<name>hbase.zookeeper.quorum</name> 
<value>zookeeper01,zookeeper02,zookeeper03</value> 
</property> 
<property> 
<name>hbase.zookeeper.property.dataDir</name> 
<value>/disk/hbase-1.3.0/tmp/zk/data</value> 
</property>
<property>
<name>hbase.master.info.port</name>
<value>60010</value>
</property>
<property>
<name>hbase.regionserver.info.port</name>
<value>60012</value>
</property>
</configuration>

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
vim regionservers
slave1
slave2
slave3
slave4
slave5
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

7.3 把Hbase复制到其他机器

说明:slave1容器里操作

scp -r /root/hbase-1.3.0/ root@slave2:/root/
scp -r /root/hbase-1.3.0/ root@slave3:/root/
scp -r /root/hbase-1.3.0/ root@slave4:/root/
scp -r /root/hbase-1.3.0/ root@slave5:/root/
  • 1
  • 2
  • 3
  • 4

7.4 在slave1容器开启hbase集群

start-hbase.sh
致此,hbase集群搭建成功,只需要在每个节点上安装opentsdb就可以。

第8章 搭建opentsdb

说明:opentsdb是往hbase里写数据用的,这里在slave其中一个节点搭建即可。

8.1 复制opentsdb目录到slave

说明:在宿主机操作
需要的安装包
下载安装包
opentsdb-2.3.0.tar.gz
解压到/opt/目录底下
cd /opt/opentsdb-2.2.0
mkdir build
cp -r third_party ./build
./build.sh
cd build/
make install
复制opentsdb目录到slave1
docker cp /opt/opentsdb-2.3.0/ slave1:/root/

8.2 建表

env COMPRESSION=NONE HBASE_HOME=/usr/local/hbase-1.2.6.1 /usr/local/opentsdb-2.2.0/src/create_table.sh
  • 1

8.3 配置

cp /root/opentsdb-2.3.0/src/opentsdb.conf /root/opentsdb-2.3.0/build/opentsdb.conf
vim /root/opentsdb-2.3.0/build/opentsdb.conf
tsd.network.port = 8000
tsd.http.staticroot = /disk/opentsdb-2.3.0/build/staticroot
tsd.http.cachedir = /tmp/tsd
tsd.core.auto_create_metrics = true
tsd.storage.hbase.zk_quorum = zookeeper01:2181, zookeeper02:2181,
zookeeper03:2181
tsd.http.request.enable_chunked = true
tsd.http.request.max_chunk = 67108863
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

8.4 配置opentasb的环境变量

cat /etc/profile.d/run.sh
export PATH=$PATH:$JAVA_HOME/bin:/root/hbase-1.3.0/bin
source /etc/profile.d/run.sh
  • 1
  • 2
  • 3

8.5 启动

tsdb tsd --config=/root/opentsdb-2.3.0/build/opentsdb.conf 2>&1 > /tmp/opentsdb.log &
  • 1
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/你好赵伟/article/detail/211336
推荐阅读
相关标签
  

闽ICP备14008679号