服务器部署Kafka集群时,跨节点网络需要规划哪些通信地址与端口

发布人:A5数据发布时间:2026-11-06 10:49阅读量:79

服务器部署 Kafka 集群时,跨节点网络不能只检查“9092 端口是否通”。客户端连接一个 bootstrap 地址后,会从集群元数据中取得各 Broker 对外公布的地址,再直接连接目标 Broker;Broker 之间要复制分区数据;采用 KRaft 的集群还需要 Broker 与 Controller、Controller 之间通信。因此,实施前应分别确认每类连接的源节点、目标地址、目标端口、解析方式和访问权限。

端口号可以按环境调整,真正需要保持一致的是网络路径与 Kafka 配置:服务端监听的地址要可用,公布给连接方的地址要从连接方所在网络到达。尤其在多网卡、容器、跨机房或有地址转换的环境中,“能连上 bootstrap 节点”不等于“能使用整个集群”。

从业务链路确定需要互通的节点

一次写入通常从业务应用连接 Kafka 开始。应用通过 bootstrap 地址发现集群,随后连接分区 Leader 所在的 Broker 发送消息。若主题有多个副本,其他 Broker 上的 Follower 会向 Leader 拉取数据。消费端同样会依据元数据,连接其所需分区所在的 Broker。应用前面是否还有 Web 服务、后面是否还有数据库,并不改变这条 Kafka 网络链路;只有实际读写 Kafka 的进程才需要作为客户端纳入核对。

从业务链路确定需要互通的节点配图

这带来三个容易遗漏的事实:

  • bootstrap 地址是发现入口,不是把所有 Kafka 请求固定转发到一台服务器的入口。客户端需要访问元数据中公布的、与其所用 Listener 对应的 Broker 地址。
  • 分区 Leader 会变化。只放通目前承载 Leader 的几台机器,可能在重平衡或故障切换后出现部分分区不可用。
  • 副本复制是 Broker 间流量,不会因为客户端与某台 Broker 连通,就自动获得 Broker 间的网络连通性。

实施前宜先列出实际使用 Kafka 的应用服务器、Kafka Broker、KRaft Controller,以及是否存在跨机房客户端。不要从端口号反推架构:9092 常用于客户端或 Broker Listener,9093 常被用作 Controller Listener,但它们都不是必须采用的固定端口。

各组件公布什么地址、承担什么通信

连接关系主要用途需要核对的目标地址与端口
生产者、消费者、管理工具 → Broker获取元数据,发送、读取和管理数据客户端所用 Listener 在各 Broker 上公布的地址及端口
Broker ↔ Broker副本复制及集群内部请求Broker 间通信所选 Listener 在各 Broker 上的地址及端口
Broker → KRaft Controller注册、心跳和集群元数据相关通信Controller 端点;具体地址来源依所用 Kafka 版本和仲裁配置核对
KRaft Controller ↔ ControllerController 仲裁通信各 Controller 的仲裁通信地址及端口
Broker → ZooKeeper(仅适用于采用 ZooKeeper 的旧架构)访问集群协调服务ZooKeeper 客户端连接地址及端口
ZooKeeper 节点 ↔ ZooKeeper 节点(仅适用于多节点 ZooKeeper 集群)节点选举、同步ZooKeeper 节点间配置的通信地址及端口

Broker Listener 有两个不同层面的地址。listeners 决定进程在哪个本机地址和端口接受连接;advertised.listeners 决定连接方在元数据中看到什么地址。监听 0.0.0.0 可以表示在本机相应网络接口上接收连接,但 0.0.0.0 不是应公布给远端客户端使用的 Broker 地址。多台 Broker 也不能对同一类客户端公布同一个、无法区分最终 Broker 的普通入口地址。

各组件公布什么地址、承担什么通信配图

Broker 间通信由配置选定的内部 Listener 承担。它可以与内网客户端共用地址和端口,也可以使用独立的 Listener,例如把客户端连接与复制流量分别放在不同端口。独立 Listener 有利于分别限制来源和观察流量,但需要额外维护 DNS、证书和防火墙规则;共用 Listener 更简洁,前提是各 Broker 都能访问彼此公布的该 Listener 地址。

KRaft Controller 与 Broker 的职责不同。Controller 负责集群元数据仲裁,不是承载普通生产、消费请求的入口。独立部署 Controller 时,应明确 Controller 的节点名、仲裁通信端口,以及 Broker 如何找到它们;不要因为客户端需要访问 Broker,就把 Controller 端口向客户端网络开放。不同 Kafka 版本支持的仲裁配置方式可能不同,端点清单应以准备部署的版本和配置为准,而不是照搬另一集群的配置项。

如果现有系统采用 ZooKeeper 架构,还需单独规划 ZooKeeper 客户端端口和节点间端口。常见示例是 2181 用于客户端连接、2888 和 3888 用于 ZooKeeper 节点间通信,但实际值取决于部署配置。纯 KRaft 集群不应为并不存在的 ZooKeeper 节点预留一组“必需端口”。

元数据返回地址后,连接会怎样走

可以用一组示例地址检查网络设计是否闭合:三台 Broker 分别使用 10.20.1.11:9092、10.20.1.12:9092、10.20.1.13:9092 提供内网 Listener;三台独立 Controller 分别使用 10.20.1.21:9093、10.20.1.22:9093、10.20.1.23:9093 提供仲裁通信端点。这里的地址和端口仅用于说明连接关系,不代表 Kafka 要求使用这些数值。

若应用服务器只能连接 10.20.1.11:9092,但无法连接另外两台 Broker,bootstrap 阶段可能成功;当应用取得元数据并访问位于其他 Broker 的分区时,仍会超时。若三台 Broker 的客户端端口都可达,但 10.20.1.12 无法连接其他 Broker 所公布的内部 Listener,副本复制仍可能受影响。若 Broker 到 Controller 的路径不通,则问题又发生在集群控制链路,而非应用到 Broker 的链路。

因此,放通规则应按连接发起方到目标端点核对,而不是写成一条笼统的“Kafka 节点互通”:

多网卡和跨网络部署如何取舍配图

  1. 从每一类客户端网络,访问该类客户端可能使用的全部 Broker 公布地址;其中包括管理工具、Kafka Connect 等实际作为客户端工作的组件。
  2. 从每台 Broker,访问其他 Broker 的内部 Listener,以及所需的 Controller 端点。
  3. 从每台 Controller,访问仲裁所需的其他 Controller 端点;若具体部署还要求其他方向的连接,以该版本的角色配置和实际连接行为为准。
  4. 仅对采用 ZooKeeper 的集群,补充 Broker 到 ZooKeeper、ZooKeeper 节点彼此之间的路径。

有状态防火墙通常会允许已建立连接的返回流量;采用无状态访问控制时,还应核对返回路径和临时源端口规则。规则应尽量限定源网段、目标节点与目标端口,不宜为了省事向所有来源开放 Broker 或 Controller 端口。

多网卡和跨网络部署如何取舍

单一内网中的部署较直接:客户端、Broker 和 Controller 使用可互相解析、可路由的内网地址。需要注意的是,“同属内网”并不意味着处于同一个可达网络;跨交换区域、跨机房或跨安全域时,仍要逐段确认路由与访问控制。

当客户端分别位于内网和另一个网络时,可以规划不同的 Broker Listener,让各类客户端从相应入口连接,并获得对其可达的 Broker 地址。关键不是给 bootstrap 节点额外加一个入口,而是每台 Broker 在该客户端使用的 Listener 上,都有可到达的公布地址。如果涉及地址转换或端口映射,应逐台记录“客户端所见地址:端口 → 实际 Broker 监听地址:端口”,不能只映射其中一台。

DNS 名称比把地址直接写入大量客户端配置更便于后续调整,但它增加了另一项验收条件:客户端和 Broker 所在网络能否解析到预期地址。内外网 DNS 返回不同结果时,应分别验证;启用 TLS 时,还要检查客户端访问的主机名是否与服务端证书的名称匹配。网络端口可达,不能替代 TLS 握手和 Kafka 身份认证的验证。

复制流量也应纳入链路容量判断。以十进制单位粗算:若写入约为 50 MB/s,副本因子为 3,仅按每条数据向另外两个副本传送一次估算,集群内复制数据量约为 100 MB/s,相当于 800 Mb/s 的数据传输速率。这个数值尚未计入客户端读取、协议开销、流量分布不均和恢复时的额外复制,不能直接当作单台服务器的带宽需求;它说明的是,选择跨节点链路时不能只验“端口通”,还要结合分区分布与峰值流量留出余量。

A5idc数据在中国香港、美国、日本、韩国、中国台湾、新加坡及马来西亚等地区提供物理服务器,产品涵盖不同CPU、内存和SSD、NVMe存储配置,线路与带宽选择则因地区和产品系列而异。面向Kafka集群部署,这些资源可为Broker的消息读写、副本存储及跨节点数据传输提供基础,也为结合客户端分布安排业务节点与集群节点提供部署选择。

上线前怎样验证地址清单

检查结果最好落到一份可复核的端点清单:每台节点的角色、监听地址、公布地址、端口、使用该端点的来源网络,以及对应的 DNS、TLS 和访问控制要求。对多 Listener 的 Broker,分别写明哪个供客户端使用、哪个供 Broker 间通信;对 Controller 和旧架构中的 ZooKeeper,单独列项,不混入客户端端口。

在具备相应工具的 Linux 主机上,可以从实际连接发起端做初步验证,而不是只在目标服务器本机测试。例如,将下面的名称和端口替换为端点清单中的值:

上线前怎样验证地址清单配图

getent hosts broker-2.kafka.example
nc -vz -w 3 broker-2.kafka.example 9092

getent 检查该主机的名称解析结果,nc 检查 TCP 连接能否建立;工具未安装时应使用环境中已有的等效检查方式。两项检查都通过,也只能证明名称解析和 TCP 路径初步可用,不能证明 Kafka 返回的其他 Broker 地址、TLS、认证或授权均正确。下一步应使用与业务相同的客户端网络和安全配置连接集群,确认能够取得元数据并访问所需分区;同时从 Broker 与 Controller 所在节点验证各自承担的内部路径。

实施前的最终判断是:每个连接方拿到的地址,是否正是它能够解析并访问的地址;每个目标端口,是否只对确有通信职责的来源开放。把这两个问题逐节点验证,比单独确认默认端口是否开放更能发现跨节点部署中的遗漏。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/7841.html

相关推荐