搜索
查看
编辑修改
首页
UNITY
NODEJS
PYTHON
AI
GIT
PHP
GO
CEF3
JAVA
HTML
CSS
搜索
小小林熬夜学编程
这个屌丝很懒,什么也没留下!
关注作者
热门标签
jquery
HTML
CSS
PHP
ASP
PYTHON
GO
AI
C
C++
C#
PHOTOSHOP
UNITY
iOS
android
vue
xml
爬虫
SEO
LINUX
WINDOWS
JAVA
MFC
CEF3
CAD
NODEJS
GIT
Pyppeteer
article
热门文章
1
Tensorflow 环境配置与安装版本的选择_tensorflow各版本 安装需求
2
小程序获取不到用户头像和昵称返回微信用户问题解决,即小程序授权获取用户头像规则调整的最新解决方案_微信小程序获取头像加载弹出
3
平面切分- 蓝桥杯第十一届Python组第九题_平面切分摘要
4
zabbix配置(三)之mysql监控_怎么查看zabbix的mysql配置
5
jdk8銝要onematch_JDK8新特性详解 - 纯粹而又极致的光--木九天 - OSCHINA - 中文开源技术交流社区...
6
无线瘦AP部署——Capwap隧道原理及故障:无线Capwap隧道技术原理_在瘦ap与ac通讯,中,我们规定了capwap的通信方式,那么capwap隧道的建立步骤中几步
7
一、Docker:Linux/Windows在线安装Docker与命令大全总结_docker for windows installer
8
洛谷刷题C++语言 | P5705 数字反转_输入一个不小于100且小于1000数字反转c语言
9
校验输入大于0且可保留小数点后两位数的正则_正则大于0保留两位小数
10
可信计算3.0工程初步pdf_查校 | 英国大学工业工程与运筹学专业40个授课硕士+研究Mphil/Phd 项目汇总...
当前位置:
article
> 正文
Kafka单节点部署_kafka2.2单节点部署
作者:小小林熬夜学编程 | 2024-02-12 21:00:06
赞
踩
kafka2.2单节点部署
一. 单节点单broker的部署和使用
1. 启动Zookeeper
./zkServer.sh start
或
zookeeper-server-start.sh config/zookeeper.properties
2. 启动Kafka
kafka-server-start.sh config/server.properties
3. 创建topic
kafka-topics.sh --create --zookeeper hadoop000:2181 --replication-factor 1 --partitions 1 --topic hello_test_topic
创建 一个topic 指向zookeeper地址 副本数目为1 1个分区
4. 查看所有topic
kafka-topics.sh --list --zookeeper hadoop000:2181
5. 发送消息
kafka-console-producer.sh --broker-list hadoop000:9092 --topic hello_test_topic
控制台生产者 发送是brokerlist
6. 消费消息
kafka-console-consumer.sh --bootstrap-server localhost:2181 --topic hello_test_topic --from-beginning
kafka-console-consumer.sh --zookeeper localhost:2181 --topic hello_test_topic --from-beginning
--from-beginning 代表从头开始消费,即重启消费者,仍会接收之前的消息
7. 查看所有topic的详细信息:kafka-topics.sh --describe --zookeeper hadoop000:2181
查看指定topic的详细信息:kafka-topics.sh --describe --zookeeper hadoop000:2181 --topic hello_test_topic
-------------------------------------------------------
二. 单节点多broker的部署和使用
1. 复制并修改server.properties文件
> cp config/server.properties config/server-1.properties
> cp config/server.properties config/server-2.properties
> cp config/server.properties config/server-3.properties
config/server-1.properties:
broker.id=1
listeners=PLAINTEXT://:9093
log.dirs=/home/hadoop/app/tmp/kafka-logs-1
config/server-2.properties:
broker.id=2
listeners=PLAINTEXT://:9094
log.dirs=/home/hadoop/app/tmp/kafka-logs-2
config/server-3.properties:
broker.id=3
listeners=PLAINTEXT://:9095
log.dirs=/home/hadoop/app/tmp/kafka-logs-3
2. 启动kafka
kafka-server-start.sh -daemon $KAFKA_HOME/config/server-1.properties &
kafka-server-start.sh -daemon $KAFKA_HOME/config/server-2.properties &
kafka-server-start.sh -daemon $KAFKA_HOME/config/server-3.properties &
3. 创建topic
kafka-topics.sh --create --zookeeper hadoop000:2181 --replication-factor 3 --partitions 1 --topic my-replicated-topic-test
一个分区,三个副本
Topic:my-replicated-topic-test PartitionCount:1 ReplicationFactor:3 Configs:
Topic: my-replicated-topic-test Partition: 0 Leader: 0 Replicas: 0,2,3 Isr: 0,2,3
Leader是0号,具有0,2,3 三个副本 Isr:代表活着的
4. 发送消息(一定注意发送消息是broker)
kafka-console-producer.sh --broker-list hadoop000:9093,hadoop000:9094,hadoop000:9095 --topic my-replicated-topic-test
5. 消费消息(一定注意消费消息是zookeeper)
kafka-console-consumer.sh --zookeeper hadoop000:2181 --topic my-replicated-topic-test --from-beginning
声明:
本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:
https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/78624
推荐阅读
article
spring
cloud
中用到的配置项,
kafka
、Validator、
swagger
等_
spring
...
swagger
:
swagger
引入
[详细]
-->
赞
踩
article
spring
boot 使用
Kafka
...
高吞吐量:
Kafka
能够处理大规模的数据流,并支持高吞吐量的消息传输。持久性:
Kafka
将消息持久化到磁盘上,保证了消息...
赞
踩
article
kafka
+
protobuf
+java_
spring
boot
使用
kafka
...
org.
spring
framework.
kafka
spring
-
kafka
spring
-
kafka
version会使用...
赞
踩
article
Python
学习笔记——大数据之Pyspark与
notebook
使用
matplotlib
_pyspa...
目录简略Spark输出Ipython
notebook
3.1
matplotlib
介绍使用环境API入门刻度、标签、图列添...
赞
踩
article
ELK
日志
集成(
filebeat
+
kafka
+
logstash
+
elasticsearch
+kiba...
1、
日志
文件准备首先
日志
集成json格式,这个在我搭建的项目案例中的logback-spring.xml中有过配置如何将...
赞
踩
article
基于Flume+
Kafka
+
Hbase
+
Flink
+
FineBI
的
实时
综合案例(五)
FineBI
可视...
将创建好的refresh.js文件放至
FineBI
安装目录%
FineBI
%/webapps/webroot中。官方文...
赞
踩
article
kafka
磁盘
扩容
与
数据
均衡
实在操作讲解_
kafka
设置
单个
磁盘
很大...
Kafka 的
磁盘
扩容
和
数据
均衡
是与保证Kafka集群可用性和性能相关的两个重要方面。在 Kafka 中,分区
数据
的存储...
赞
踩
article
Apache
Kafka
: 强大
消息
队列
系统
的
介绍与
使用
...
Apache
Kafka
是一款开源
的
分布式
消息
发布-订阅
系统
,最初由LinkedIn公司开发。它旨在处理大规模
的
实时数据...
赞
踩
article
阿里云ECS的使用——
PuTTY
远程连接、安装配置
Maven
Redis
Kafka
Tomcat
...
重置服务器密码阿里云ECS服务器创建好之后,重置其密码。使用
PuTTY
远程连接在红框这里输入阿里云的公网ip,然后点击O...
赞
踩
article
kerberos
+
kafka
(
2.13
)
认证
(单节点
ubuntu
)...
复制 bin/
kafka
-server-start.sh 脚本重命名为 bin/
kafka
-server-start-s...
赞
踩
article
「
Kafka
」
消费者
篇...
Kafka
消费方式、
Kafka
消费者
工作流程、生产经验—分区的分配以及再平衡、offset 位移、生产经验—
消费者
事...
赞
踩
article
kafka
文件
存储机制...
segment index file采取稀疏索引存储方式,不会为每条数据创建索引,大大的减少索了引
文件
大小。
kafka
...
赞
踩
article
kafka
-
connect
安装使用_
kafka
connect
or
下载
io
.
confluent
...
在此使用hdp中的
kafka
,根据hdp版本找到对应的开源组件版本:hdp2.6.3—
kafka
0.10.1—
kafka
...
赞
踩
article
卡夫卡
消息
服务
器,单台
服务
器部署
Zookeeper
及
kafka
消息
中间件
服务
...
在开发环境中,为减少
服务
器成本和提高开发效率,通常在一台测试
服务
器部署各种
服务
,使用不同的本地 IP 和不同端口号将涉及...
赞
踩
article
Kafka
-
安装
和使用_
kafka
-
connect
下载
安装
及使用...
一、
下载
安装
包1、选择所需版本下载[root@ywxtdb opt]# wget https://archive.apa...
赞
踩
article
kafka
connect
_
kafka
connect
下载博客...
一. Kafka Connect简介 Kafka是一个使用越来越广的消息系统,尤其是在大数据开发中(实时数据处理和分析...
赞
踩
article
干货:使用
Kafka
connect
同步
数据
至
Elasticsearch
_
docker
kaf...
一、 内存泄露 内存泄漏指由于疏忽或错误造成程序未能释放已经不再使用的内存的情况。内存泄漏并非指内存在物理上的消失,而是...
赞
踩
article
kafka
3.2
.0
linux
部署并测试。_
kafka
-
console
-
producer
.
sh
...
前言
kafka
是一个优秀的消息队列框架,现在基于
linux
安装写个文档记录下。提示:以下是本篇文章正文内容,下面案例可供...
赞
踩
article
Kafka
命令行操作_
kafka
-
console
-
producer
.
sh
...
kafka
-topics.
sh
脚本使用参数列表:[vagrant@localhost
kafka
_2.12-3.0.0...
赞
踩
article
Kafka
Connect
详解及应用实践_
kafka
connector
...
Kafka
Connect
是一个用于数据导入和导出的工具。它能够把多种数据源(如MySQL,HDFS等)与
Kafka
之间...
赞
踩
相关标签
springcloud
spring boot
kafka
后端
kafka+protobuf+java
Python
elk
zookeeper
elasticsearch
flume
hbase
分布式
数据平衡
apache
ubuntu
数据库
java
中间件