赞
踩
StopReplicaRequest
UpdateMetadataRequest
都属控制类请求,通常应该被赋予高优先级,比如PRODUCE和FETCH请求。
SocketServer负责对这两大类请求区分处理。
区分数据类请求和控制类请求不同处理方式的主要途径。即创建多组监听器分别执行数据类和控制类请求的处理。
监听器定义为
Broker主机名。
Broker端口号。
监听器名称。目前预定义的名称包括
PLAINTEXT
SSL
SASL_PLAINTEXT
SASL_SSL
Kafka允许自定义其他监听器名称,比如CONTROLLER、INTERNAL。
securityProtocol:监听器使用的安全协议。Kafka支持4种安全协议
PLAINTEXT
SSL
SASL_PLAINTEXT
SASL_SSL
Broker端参数
比如若Broker端参数配置如下:
配置3个监听器,分别是CONTROLLER、INTERNAL和EXTERNAL,使用的安全协议分别是PLAINTEXT、PLAINTEXT和SSL。
那SocketServer如何实现Data plane与Control plane分离的呢?
===========================================================================
对于Data plane,线程池的说法没有问题,因为Processor线程确实有很多,而Acceptor也可能多个,因为SocketServer会为每个EndPoint(每套监听器)创建一个对应的Acceptor线程。
但Control plane不同。
Control plane那组属性变量都是以Opt结尾的,即Option类型,完全可以不使用Control plane,即你可让Kafka不区分请求类型,2.2.0之前设计就是这样。
但一旦开启Control plane设置,其Processor线程和Acceptor线程都是1个。
它对应的RequestChannel里面的请求队列长度被硬编码成20,即控制类请求的数量应该远小于数据类请求,因而不需要为它创建线程池和较深的请求队列。
===============================================================================
最大连接数计数器将被用来确保没有配额超限的情形发生
创建Processor线程池。对于Data plane而言,线程池的数量由Broker端参数num.network.threads决定
将<监听器,Acceptor线程>对加入到Acceptor线程池统一管理
比如配置listeners=PLAINTEXT://localhost:9092, SSL://localhost:9093,默认会为PLAINTEXT和SSL监听器分别创建一个Acceptor线程和一个Processor线程池。
具体为哪些监听器创建依据配置而定,Kafka只会为Data plane所使的监听器创建这些资源。
==================================================================================
基于控制类请求远小于数据类请求假设,Control plane的配套资源只有1个Acceptor线程 + 1个Processor线程 + 1个深度是20的请求队列而已。和Data plane相比,这些配置稍显寒酸,够用就行。
和createDataPlaneAcceptorsAndProcessors类似,只是需判断是否配置用于Control plane的监听器。
目前,Kafka规定只能有1套监听器用于Control plane,而不能像Data plane那样可以配置多套。
在启动SocketServer组件之后启动的,具体代码在KafkaServer.scala文件的startup方法
Broker端参数control.plane.listener.name用于设置Control plane所用的监听器。
在默认情况下,这个参数的值是空(Null)。Null的意思就是告诉Kafka不要启用请求优先级区分机制,但如果你设置了这个参数,Kafka就会利用它去listeners中寻找对应的监听器了。
假设Broker端配置:
listener.security.protocol.map=CONTROLLER:PLAINTEXT,INTERNAL:PLAINTEXT,EXTERNAL:SSL
listeners=CONTROLLER://192.1.1.8:9091,INTERNAL://192.1.1.8:9092,EXTERNAL://10.1.1.5:9093
control.plane.listener.name=CONTROLLER
名字是CONTROLLER的那套监听器将被用于Control plane。
名字是INTERNAL和EXTERNAL的这两组监听器用于Data plane。
Kafka如何知道CONTROLLER这套监听器给Control plane使用?
KafkaConfig类封装了Broker端所有参数信息和便捷的工具方法。
确认Control plane监听器完整的查找逻辑:
先获取Broker端参数control.plane.listener.name
值。该实例中,值是字符串CONTROLLER
读取Broker端参数listener.security.protocol.map
值,并找出CONTROLLER对应的安全认证协议。该例中,CONTROLLER对应安全认证协议PLAINTEX
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Java工程师,想要提升技能,往往是自己摸索成长,自己不成体系的自学效果低效漫长且无助。
因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,不论你是刚入门Android开发的新手,还是希望在技术上不断提升的资深开发者,这些资料都将为你打开新的学习之门!
如果你觉得这些内容对你有帮助,需要这份全套学习资料的朋友可以戳我获取!!
由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!
经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,不论你是刚入门Android开发的新手,还是希望在技术上不断提升的资深开发者,这些资料都将为你打开新的学习之门!**
如果你觉得这些内容对你有帮助,需要这份全套学习资料的朋友可以戳我获取!!
由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。