devbox
我家小花儿
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

centos7安装kafka、zookeeper_centos7 安装最新kafka

作者：我家小花儿 | 2024-06-09 00:05:59

赞

踩

centos7 安装最新kafka

安装jdk

安装jdk8  

安装zookeeper

在指定目录执行下载命令 我是在/newdisk/zookeeper目录下

wget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.8/apache-zookeeper-3.5.8-bin.tar.gz --no-check-certificate

下载好后并解压  tar -zxvf apache-zookeeper-3.5.8-bin.tar.gz

校验是否安装好，进入 /newdisk/zookeeper/apache-zookeeper-3.5.8-bin/conf

复制zoo_sample.cfg配置文件为zoo.cfg

cp zoo_sample.cfg zoo.cfg

在进入/newdisk/zookeeper/apache-zookeeper-3.5.8-bin/bin目录

启动zk服务端

./zkServer.sh start

 启动客户端

 ./zkCli.sh

在查看根节点 ，出现如下界面就安装成功了

安装kafka 

进入到要下载的目录，我这边是/newdisk/kafka 执行下载命令（有点慢）

wget https://archive.apache.org/dist/kafka/2.4.1/kafka_2.11-2.4.1.tgz --no-check-certificate

或者直接使用安装包kafka_2.13-3.6.0.tgz

解压  tar -xvzf kafka_2.13-3.6.0.tgz

修改配置

进入/newdisk/kafka/kafka_2.13-3.6.0/config，vim server.properties

  1. # broker.id属性在kafka集群中必须要是唯一
  2. broker.id=0
  3. # kafka部署的机器ip和提供服务的端口号
  4. listeners=PLAINTEXT://内网ip:9092
  5. # kafka的消息存储文件
  6. log.dirs=/usr/local/data/kafka-logs
  7. # kafka连接zookeeper的地址
  8. zookeeper.connect=内网ip:2181
  1. broker.id=0
  2. listeners=PLAINTEXT://192.168.31.131:9092
  3. log.dir=/newdisk/kafka/data/kafka-logs
  4. zookeeper.connect=192.168.31.131:2181

启动kafka（前提是zookeeper服务端启动）

进入/newdisk/kafka/kafka_2.13-3.6.0/，执行如下命令

bin/kafka-server-start.sh config/server.properties

通过zookeeper客户端查看是否注册成功

kafka基本操作

创建topic

参数 --topic 指定 Topic 名，--partitions 指定分区数，--replication-factor 指定副本数：

./kafka-topics.sh --create --bootstrap-server 192.168.31.131:9092 --replication-factor 1 --partitions 1 --topic test

查看topic

./kafka-topics.sh --list --bootstrap-server 192.168.31.131:9092

 发送消息

./kafka-console-producer.sh --broker-list 192.168.31.131:9092 --topic test

消费消息 

./kafka-console-consumer.sh --bootstrap-server 192.168.31.131:9092 --topic test --from-beginning

安装可视化工具Apache Kafka UI

地址：GitHub - provectus/kafka-ui: Open-Source Web UI for Apache Kafka Management

简介

Apache Kafka UI 是一个免费的开源 Web UI，用于监控和管理 Apache Kafka 集群。

Apache Kafka UI 是一个简单的工具，可让您的数据流可观察，帮助更快地发现和解决问题并提供最佳性能。其轻量级仪表板可以轻松跟踪 Kafka 集群的关键指标 - 代理、主题、分区、生产和消耗。

安装及启动（docker）

运行如下命令

docker run -it -p 8080:8080 -d -e DYNAMIC_CONFIG_ENABLED=true provectuslabs/kafka-ui

然后访问 Web UI ：http://localhost:8080

可视化工具kafka-eagle（推荐）

下载 ，只需要到自己想要下载的文件路径下执行如下命令

wget https://github.com/smartloli/kafka-eagle-bin/archive/v2.1.0.tar.gz

解压，解压后发现里面还是一个压缩包

tar -xzvf v2.1.0.tar.gz

继续解压 

tar -xvzf efak-web-2.1.0-bin.tar.gz

复制到指定文件夹

 mv efak-web-2.1.0 /newdisk/kafka/kafka-web

配置kafka_eagle环境变量：vim /etc/profile

  1. # KAFKA_EAGLE
  2. export KE_HOME=/newdisk/kafka/kafka-web
  3. export PATH=$PATH:$KE_HOME/bin

source /etc/profile

配置kafka_eagle，修改配置文件conf文件夹下的system-config.properties文件

 

完整的配置如下

  1.  
  2. ######################################
  3. # multi zookeeper & kafka cluster list
  4. # Settings prefixed with 'kafka.eagle.' will be deprecated, use 'efak.' instead
  5. ######################################
  6. #efak.zk.cluster.alias=cluster1,cluster2
  7. #cluster1.zk.list=tdn1:2181,tdn2:2181,tdn3:2181
  8. #cluster2.zk.list=xdn10:2181,xdn11:2181,xdn12:2181
  9.  
  10. efak.zk.cluster.alias=cluster1
  11. cluster1.zk.list=192.168.31.131:2181
  12.  
  13.  
  14. ######################################
  15. # zookeeper enable acl
  16. ######################################
  17. cluster1.zk.acl.enable=false
  18. cluster1.zk.acl.schema=digest
  19. cluster1.zk.acl.username=test
  20. cluster1.zk.acl.password=test123
  21.  
  22. ######################################
  23. # broker size online list
  24. ######################################
  25. cluster1.efak.broker.size=20
  26.  
  27. ######################################
  28. # zk client thread limit
  29. ######################################
  30. kafka.zk.limit.size=16
  31.  
  32. ######################################
  33. # EFAK webui port
  34. ######################################
  35. efak.webui.port=8048
  36.  
  37. ######################################
  38. # EFAK enable distributed
  39. ######################################
  40. efak.distributed.enable=false
  41. efak.cluster.mode.status=master
  42. efak.worknode.master.host=localhost
  43. efak.worknode.port=8085
  44.  
  45. ######################################
  46. # kafka jmx acl and ssl authenticate
  47. ######################################
  48. cluster1.efak.jmx.acl=false
  49. cluster1.efak.jmx.user=keadmin
  50. cluster1.efak.jmx.password=keadmin123
  51. cluster1.efak.jmx.ssl=false
  52. cluster1.efak.jmx.truststore.location=/data/ssl/certificates/kafka.truststore
  53. cluster1.efak.jmx.truststore.password=ke123456
  54.  
  55. ######################################
  56. # kafka offset storage
  57. ######################################
  58. cluster1.efak.offset.storage=kafka
  59. #cluster2.efak.offset.storage=zk
  60.  
  61. ######################################
  62. # kafka jmx uri
  63. ######################################
  64. cluster1.efak.jmx.uri=service:jmx:rmi:///jndi/rmi://%s/jmxrmi
  65.  
  66. ######################################
  67. # kafka metrics, 15 days by default
  68. ######################################
  69. efak.metrics.charts=true
  70. efak.metrics.retain=15
  71.  
  72. ######################################
  73. # kafka sql topic records max
  74. ######################################
  75. efak.sql.topic.records.max=5000
  76. efak.sql.topic.preview.records.max=10
  77.  
  78. ######################################
  79. # delete kafka topic token
  80. ######################################
  81. efak.topic.token=keadmin
  82.  
  83. ######################################
  84. # kafka sasl authenticate
  85. ######################################
  86. cluster1.efak.sasl.enable=false
  87. cluster1.efak.sasl.protocol=SASL_PLAINTEXT
  88. cluster1.efak.sasl.mechanism=SCRAM-SHA-256
  89. cluster1.efak.sasl.jaas.config=org.apache.kafka.common.security.scram.ScramLoginModule required username="kafka" password="kafka-eagle";
  90. cluster1.efak.sasl.client.id=
  91. cluster1.efak.blacklist.topics=
  92. cluster1.efak.sasl.cgroup.enable=false
  93. cluster1.efak.sasl.cgroup.topics=
  94. #cluster2.efak.sasl.enable=false
  95. #cluster2.efak.sasl.protocol=SASL_PLAINTEXT
  96. #cluster2.efak.sasl.mechanism=PLAIN
  97. #cluster2.efak.sasl.jaas.config=org.apache.kafka.common.security.plain.PlainLoginModule required username="kafka" password="kafka-eagle";
  98. #cluster2.efak.sasl.client.id=
  99. #cluster2.efak.blacklist.topics=
  100. #cluster2.efak.sasl.cgroup.enable=false
  101. #cluster2.efak.sasl.cgroup.topics=
  102.  
  103. ######################################
  104. # kafka ssl authenticate
  105. ######################################
  106. cluster3.efak.ssl.enable=false
  107. cluster3.efak.ssl.protocol=SSL
  108. cluster3.efak.ssl.truststore.location=
  109. cluster3.efak.ssl.truststore.password=
  110. cluster3.efak.ssl.keystore.location=
  111. cluster3.efak.ssl.keystore.password=
  112. cluster3.efak.ssl.key.password=
  113. cluster3.efak.ssl.endpoint.identification.algorithm=https
  114. cluster3.efak.blacklist.topics=
  115. cluster3.efak.ssl.cgroup.enable=false
  116. cluster3.efak.ssl.cgroup.topics=
  117.  
  118. ######################################
  119. # kafka sqlite jdbc driver address
  120. ######################################
  121. #efak.driver=org.sqlite.JDBC
  122. #efak.url=jdbc:sqlite:/hadoop/kafka-eagle/db/ke.db
  123. #efak.username=root
  124. #efak.password=www.kafka-eagle.org
  125.  
  126. ######################################
  127. # kafka mysql jdbc driver address
  128. ######################################
  129. efak.driver=com.mysql.cj.jdbc.Driver
  130. efak.url=jdbc:mysql://192.168.31.131:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
  131. efak.username=root
  132. efak.password=123456

 保存后，启动

bin/ke.sh start

我这边启动报错，根据提升是内存不够，我们把内存调小一点

vim bin/ke.sh

重新启动

 查看状态

bin/ke.sh status

浏览器访问http://192.168.31.131:8048/    用户名/密码  admin/123456

到这边就成功了 

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/我家小花儿/article/detail/691776
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号