当前位置:   article > 正文

Kafka集群安装与部署

Kafka集群安装与部署

集群规划

准备工作

安装

安装包下载:链接:https://pan.baidu.com/s/1BtSiaf1ptLKdJiA36CyxJg?pwd=6666

Kafka安装与配置

1、上传并解压安装包

tar -zxvf kafka_2.12-3.3.1.tgz -C /opt/moudle/

2、修改解压后的文件名称

mv kafka_2.12-3.3.1/ kafka

 

3、进入到/opt/module/kafka目录,修改配置文件

  1. cd /opt/moudle/kafka/config/
  2. vim server.properties

输入以下内容:

  1. #broker的全局唯一编号,不能重复,只能是数字。
  2. broker.id=0
  3. #broker对外暴露的IP和端口 (每个节点单独配置)
  4. advertised.listeners=PLAINTEXT://hadoop102:9092
  5. #处理网络请求的线程数量
  6. num.network.threads=3
  7. #用来处理磁盘IO的线程数量
  8. num.io.threads=8
  9. #发送套接字的缓冲区大小
  10. socket.send.buffer.bytes=102400
  11. #接收套接字的缓冲区大小
  12. socket.receive.buffer.bytes=102400
  13. #请求套接字的缓冲区大小
  14. socket.request.max.bytes=104857600
  15. #kafka运行日志(数据)存放的路径,路径不需要提前创建,kafka自动帮你创建,可以配置多个磁盘路径,路径与路径之间可以用","分隔
  16. log.dirs=/opt/moudle/kafka/datas
  17. #topic在当前broker上的分区个数
  18. num.partitions=1
  19. #用来恢复和清理data下数据的线程数量
  20. num.recovery.threads.per.data.dir=1
  21. # 每个topic创建时的副本数,默认时1个副本
  22. offsets.topic.replication.factor=1
  23. #segment文件保留的最长时间,超时将被删除
  24. log.retention.hours=168
  25. #每个segment文件的大小,默认最大1G
  26. log.segment.bytes=1073741824
  27. # 检查过期数据的时间,默认5分钟检查一次是否数据过期
  28. log.retention.check.interval.ms=300000
  29. #配置连接Zookeeper集群地址(在zk根目录下创建/kafka,方便管理)
  30. zookeeper.connect=hadoop102:2181,hadoop103:2181,hadoop104:2181/kafka

4、分发安装包

xsync kafka/

5、分别在hadoop103和hadoop104上修改配置文件

/opt/module/kafka/config/server.properties中的broker.idadvertised.listeners

        注:broker.id不得重复,整个集群中唯一。

[root@hadoop103 module]$ vim kafka/config/server.properties

修改:

# The id of the broker. This must be set to a unique integer for each broker.

broker.id=1

#broker对外暴露的IP和端口 (每个节点单独配置)

advertised.listeners=PLAINTEXT://hadoop103:9092

[root@hadoop104 module]$ vim kafka/config/server.properties

修改:

# The id of the broker. This must be set to a unique integer for each broker.

broker.id=2

#broker对外暴露的IP和端口 (每个节点单独配置)

advertised.listeners=PLAINTEXT://hadoop104:9092

6、配置环境变量

(1)在/etc/profile.d/my_env.sh文件中增加kafka环境变量配置

vim /etc/profile.d/my_env.sh

增加如下内容

  1. #KAFKA_HOME
  2. export KAFKA_HOME=/opt/moudle/kafka
  3. export PATH=$PATH:$KAFKA_HOME/bin

(2)刷新一下环境变量。

source /etc/profile

(3)分发环境变量文件到其他节点,并source。

[root@hadoop102 moudle]$ sudo /home/user/bin/xsync /etc/profile.d/my_env.sh

[root@hadoop103 moudle]$ source /etc/profile

[root@hadoop104 moudle]$ source /etc/profile

7、启动集群

(1)先启动Zookeeper集群,然后启动Kafka。

在Hadoop102上执行

zk.sh start

(2)依次在hadoop102、hadoop103、hadoop104节点上启动Kafka。

进入/opt/moudle/kafka

bin/kafka-server-start.sh -daemon config/server.properties

注意:配置文件的路径要能够到server.properties

 (3)查看进程

xcall jps

8、关闭集群

(1)依次在hadoop102、hadoop103、hadoop104节点上停止Kafka。

/opt/moudle/kafka

bin/kafka-server-stop.sh

(2)查看进程

xcall jps

集群启停脚本

1)在/home/user/bin目录下创建文件kf.sh脚本文件
 

  1. cd /home/user/bin
  2. vim kf.sh

脚本如下:

  1. #! /bin/bash
  2. case $1 in
  3. "start"){
  4. for i in hadoop102 hadoop103 hadoop104
  5. do
  6. echo " --------启动 $i Kafka-------"
  7. ssh $i "/opt/moudle/kafka/bin/kafka-server-start.sh -daemon /opt/moudle/kafka/config/server.properties"
  8. done
  9. };;
  10. "stop"){
  11. for i in hadoop102 hadoop103 hadoop104
  12. do
  13. echo " --------停止 $i Kafka-------"
  14. ssh $i "/opt/moudle/kafka/bin/kafka-server-stop.sh "
  15. done
  16. };;
  17. esac

2)添加执行权限

chmod +x kf.sh

3)启动集群命令

kf.sh start

4)停止集群命令

kf.sh stop

注意:停止Kafka集群时,一定要等Kafka所有节点进程全部停止后再停止Zookeeper集群。因为Zookeeper集群当中记录着Kafka集群相关信息,Zookeeper集群一旦先停止,Kafka集群就没有办法再获取停止进程的信息,只能手动杀死Kafka进程了。

本文内容由网友自发贡献,转载请注明出处:【wpsshop博客】
推荐阅读
相关标签
  

闽ICP备14008679号