香港服务器部署Elasticsearch集群,如何按数据量和副本规划节点容量?

发布人:A5数据发布时间:2026-10-13 11:37阅读量:143

香港服务器部署 Elasticsearch 集群时,节点数量不能只按“每天新增多少数据”决定。需要同时计算保留周期、索引膨胀比例、副本数、磁盘可用率、单节点故障后的承载能力,以及查询和写入峰值。数据量决定存储底线,请求量和查询类型决定 CPU、内存与磁盘 I/O,副本数量则同时影响可用性、读性能、网络流量和成本。

一个可复核的容量模型通常是:先得到未来周期内的主分片数据量,再乘以“副本数加一”、索引与合并开销,最后按磁盘目标使用率折算物理容量;同时验证任意一个数据节点或一个故障域下线后,剩余节点是否仍能容纳全部数据。容量估算结果是规划参考,不等同于某种香港服务器配置的固定承载保证,最终还要用接近真实映射、查询和峰值流量的压测校准。

先统一数据量和容量口径

原始数据、索引数据和物理磁盘不是同一个数字

业务侧通常提供的是日志、商品、订单、消息或文档的原始数据量,但 Elasticsearch 实际占用的空间还包括:

  • _source 保存的原始文档;
  • 倒排索引;
  • keyword、数值和日期字段的 Doc Values;
  • 存储字段、文档值和索引元数据;
  • Translog、段合并产生的临时空间;
  • 副本分片;
  • 节点日志、临时文件和系统空间。

因此,容量规划至少要区分以下几种口径:

口径含义规划用途
业务原始数据量业务每天产生或导入的数据大小计算日增长量
主分片数据量不包含副本的 Elasticsearch 索引数据计算索引占用
副本后数据量主分片与副本的全部数据副本计算集群存储底线
物理磁盘容量节点实际购买或分配的磁盘空间计算节点数量和规格
可用容量扣除系统、日志和保留余量后的可使用空间判断是否能够稳定运行

本文中的磁盘容量示例使用十进制口径:1 GB 等于 1,000,000,000 字节,1 TB 等于 1,000 GB。内存规格通常以 GiB 表示,1 GiB 等于 1,024 MiB。网络速率中的 1 Gbps 表示每秒 1,000,000,000 bit,不能直接与 GB/s 混用。

用索引膨胀比例估算主分片占用

如果业务原始数据为 D,从样本索引中测得 Elasticsearch 主分片实际占用比例为 R,则主分片数据量可以按以下关系估算:

主分片数据量 = 原始数据量 × 索引占用比例

R 没有适用于所有业务的固定值。只保存少量字段、字段类型简单的日志,索引占用可能接近原始数据;启用 _source、大量文本分析、多字段映射、高基数字段和复杂聚合时,主分片占用可能明显高于原始数据。

规划初期可以用约 1.1~1.5 作为待验证的参考区间,但这只是估算起点。更可靠的做法是抽取能够代表实际字段分布和查询方式的数据,使用正式的 mapping、analyzer 和索引设置建立样本索引,再比较:

  • 原始 JSON 或业务记录大小;
  • 主分片 store.size;
  • 包含 _source 与不包含 _source 的差异;
  • 不同时间段、不同数据类型的占用差异;
  • 刷新和段合并完成后的稳定占用。

不能只用刚导入后的短时间磁盘占用作为最终比例,因为后台段合并、Translog 和刷新行为可能使空间继续变化。

把副本数纳入公式

设置 r 个副本时,每个主分片共有 r+1 份数据。副本后的数据量为:

副本后数据量 = 主分片数据量 ×(1 + 副本数)

如果每天产生 200 GB 原始数据,保留 30 天,索引占用比例暂按 1.25 估算,副本数为 1,则:

  1. 原始保留量:200 GB/天 × 30 天 = 6,000 GB;
  2. 主分片数据量:6,000 GB × 1.25 = 7,500 GB;
  3. 副本后数据量:7,500 GB × 2 = 15,000 GB。

这 15 TB 还不是建议购买的物理磁盘总量。还要为段合并、Translog、索引波动、节点系统文件和磁盘利用率保留空间。

预留索引和故障空间

可以将额外开销比例记为 O,磁盘目标使用率记为 U,则物理磁盘需求可按以下方式估算:

物理磁盘需求 = 主分片数据量 ×(1 + 副本数)×(1 + 额外开销)÷ 磁盘目标使用率

如果额外开销按 20%,磁盘目标使用率按 70% 计算:

15,000 GB × 1.2 ÷ 0.7 ≈ 25,714 GB

也就是说,当前数据规模下,集群物理磁盘总量至少要向 25.7 TB 靠拢,才有机会在正常运行中保持余量。这里的 20% 和 70% 是容量模型中的参考参数,需要根据实际索引结构、数据更新方式和运维策略调整。

不建议把磁盘长期使用到接近满盘再扩容。Elasticsearch 需要空间进行段合并和分片迁移,磁盘过高时还可能触发分配限制,极端情况下导致索引进入只读保护。生产规划可将 70% 左右作为观察线、80%左右作为扩容准备线,并根据版本和实际集群设置核对磁盘水位参数。

把请求量转换为 CPU、内存和网络需求

并发不等于 QPS

业务方经常只提供“每秒多少请求”,但节点容量还受请求耗时和查询复杂度影响。可以使用一个简单关系估算活跃请求数:

并发请求数 ≈ 每秒请求数 × 平均响应时间(秒)

例如,峰值搜索流量为 300 QPS,平均响应时间为 150 毫秒,则平均活跃请求约为:

300 × 0.15 = 45 个请求

如果流量短时间翻倍,或者查询耗时升至 300 毫秒,并发量就可能达到 180。这里还没有考虑一个请求是否会访问多个分片,也没有计算聚合和排序带来的额外内存消耗。

容量规划应分别记录以下负载:

负载类型需要记录的指标对资源的主要影响
写入文档数/秒、字节数/秒、Bulk 大小、刷新频率CPU、磁盘写入、Translog、网络
精确过滤term、range、布尔过滤请求CPU、缓存、分片访问数
全文检索match、短语查询、相关性排序CPU、段读取、内存
聚合terms、date histogram、指标聚合堆内存、CPU、磁盘读取
排序和分页sort、深分页、搜索后续请求堆内存、CPU、响应网络
更新和删除文档更新、批量删除、重建段合并、磁盘空间、写入压力
恢复和迁移节点重启、分片迁移、副本重建网络、磁盘吞吐、CPU

同样是 300 QPS,简单的时间范围过滤和跨几十个分片的高基数聚合,对集群的压力可能完全不同。因此,不能用单一 QPS 数值直接对应某一台服务器配置。

分片数量会放大请求工作量

一个搜索请求通常会访问目标索引的多个分片,再由协调节点汇总结果。若一个请求需要访问 20 个分片,300 QPS 可能对应约 6,000 次分片级搜索操作,实际还会受到查询路由、缓存命中率、分片副本选择和聚合方式影响。

把请求量转换为 CPU、内存和网络需求配图

可以先估算一个粗略的分片请求量:

分片级请求量 ≈ 客户端请求量 × 单次请求访问的分片数

这不是 Elasticsearch 内部所有操作的精确计数,但有助于解释为什么“分片很多、单分片数据不大”也可能造成 CPU 和协调开销上升。

副本可以让搜索请求在多个副本之间选择,但不会让一个请求自动减少访问的分片数量。如果索引有 1 个副本,搜索请求通常会在主分片或副本分片中选择一个副本处理;副本数增加后,读取选择空间变大,但聚合的协调和归并成本仍然存在。

写入速率要同时计算平均值和峰值

数据量与网络速率换算时,先确认单位。以每天写入 200 GB 为例:

  • 每天字节量:200 × 1,000,000,000 byte;
  • 每天比特量:200 × 1,000,000,000 × 8 bit;
  • 每天秒数:86,400 秒;
  • 平均速率:约 18.52 Mbps。

如果业务在高峰期达到平均值的 4 倍,原始写入入口约为:

18.52 Mbps × 4 = 74.08 Mbps

这只是客户端到 Elasticsearch 的原始输入速率。设置 1 个副本后,节点之间还会传输副本数据,此外还存在请求协议、Translog、段合并、恢复和查询响应流量。因此,网络规划要分别考虑:

  • 客户端到集群的入口流量;
  • 数据节点之间的副本和恢复流量;
  • 协调节点与数据节点之间的搜索请求和响应;
  • 香港服务器与远端采集端之间的链路波动;
  • 快照仓库或异地备份产生的流量;
  • 可能存在的按带宽或按流量计费方式。

不能把“平均写入速率”直接等同于服务器网卡应购买的带宽。建议按峰值入口、内部副本流量和查询响应分别建模,并在正常峰值之外保留网络余量。

内存规划要看堆、文件缓存和查询类型

Elasticsearch 的内存不是越大越好,也不能只按“数据总量除以节点数”分配。数据节点内存通常由以下部分共同使用:

  • Elasticsearch JVM Heap;
  • Lucene 文件缓存;
  • 查询和聚合过程中产生的临时对象;
  • 分片元数据和集群状态;
  • 操作系统、监控和日志进程;
  • 数据导入、恢复和段合并产生的瞬时开销。

常见规划方式是让 JVM Heap 使用节点内存的一部分,同时给操作系统留下足够的文件缓存空间。很多生产环境会把 Heap 控制在物理内存约一半附近,并关注特定版本对大堆、压缩指针和垃圾回收的限制;具体上限应以所部署 Elasticsearch 和 JVM 版本的要求为准,不要仅凭服务器内存大小设置。

把请求量转换为 CPU、内存和网络需求配图

可以将服务器规格分为几类进行初步匹配:

业务特征资源侧重点节点规划思路
数据量小、写入和查询均较低稳定性与基础余量3 个具备选主能力的节点,数据与主节点可合并
写入持续、查询复杂度中等CPU、SSD、内存3~5 个数据节点,结合副本和故障余量
高并发搜索或大量聚合内存、CPU、文件缓存数据节点与协调节点分离,按查询峰值扩展
数据保留周期长、热度分层明显热层 SSD、温层大容量磁盘按 hot/warm 等数据层分别核算容量
恢复时间要求较短网络、磁盘吞吐、节点数量预留副本重建和故障恢复资源

表中的节点数量是规划区间,不是固定承载结论。相同节点数量下,字段类型、分片数、查询复杂度和磁盘类型不同,结果可能相差很大。

副本数、节点数和故障余量如何联动

副本不是备份

副本解决的是节点故障后的持续服务和读取分担,不能替代快照。误删除、错误更新、索引映射问题或整个服务器故障域损坏时,同一集群内的副本可能同时受到影响。

容量规划中应将两类目标分开:

  • 副本:用于高可用、故障切换和部分读请求分担;
  • 快照:用于数据恢复、误操作保护和更大范围的灾难恢复。

如果香港服务器集群位于同一个机房或同一个故障域,即使部署了 3 个节点,也主要是节点级冗余,并不等于机房级容灾。需要确认节点是否分布在不同机架、不同电源域或不同可用性区域;如果实际仍位于同一物理站点,站点级故障仍需要独立备份或异地恢复方案。

不同副本数的适用边界

副本数数据副本总数适合场景主要代价与限制
01 份临时索引、可完整重建的数据、开发环境节点故障可能造成服务中断或数据不可用
12 份多数生产检索和日志场景的基础方案存储、写入网络和段合并成本约增加一层
23 份读取压力高、恢复时间要求更紧或节点故障容忍度更高存储、写入和恢复流量继续增加
更多4 份及以上少数对读取冗余有特殊要求的场景成本高,不能替代快照,收益需要压测验证

主分片和副本不能放在同一个节点上,但如果只有两个数据节点,虽然可以形成主副本分布,节点故障后仍会失去冗余,且集群选主和维护余量不足。生产环境通常至少要有 3 个具备选主资格的节点,并确保投票节点之间能够稳定通信。

小规模集群可以让数据节点同时承担主节点角色,以减少服务器数量。数据规模、分片数量和查询压力上升后,可以考虑使用 3 个独立的专用主节点,再单独扩展数据节点。专用主节点的价值主要在于保持集群状态和选主稳定,不是用来承载大量搜索和写入。

用“单节点故障后容量”反推数据节点数

假设规划需要的物理可用容量为 C,每个数据节点的原始磁盘容量为 D,磁盘目标使用率为 U,数据节点数量为 N,则正常情况下可用容量约为:

正常可用容量 = N × D × U

但高可用规划不能只看正常状态,还要看一个节点下线后的容量:

故障后可用容量 =(N - 1)× D × U

如果节点规格不完全相同,更准确的计算方式是:

故障后可用容量 = 所有数据节点可用容量之和 - 最大单节点可用容量

故障后可用容量必须大于未来规划周期内的数据需求,并且仍要留下分片迁移、恢复和增长余量。

以 25.7 TB 当前物理需求为例,4 个数据节点、每个 10 TB 原始磁盘、目标使用率 70%时:

  • 正常可用容量:4 × 10 × 70% = 28 TB;
  • 单节点故障后:3 × 10 × 70% = 21 TB;
  • 21 TB 小于 25.7 TB。

这说明即使 4 个节点加起来有 40 TB 原始磁盘,按单节点故障条件仍然不满足前面的需求。若将节点数量扩展到 5 个,每个 10 TB:

  • 正常可用容量:35 TB;
  • 单节点故障后:28 TB。

此时才能覆盖约 25.7 TB 的当前规划量,但未来增长仍然需要单独计算。如果希望支持更长的扩容周期,可能需要更大磁盘、更多节点,或者将低热度数据迁移到 warm 层。

香港服务器的资源选择要看负载位置

低延迟不等于集群容量足够

香港服务器的地理位置可能缩短部分业务访问链路,但实际体验还受到数据采集端、客户端、运营商线路、跨区域网络和出口策略影响。容量规划需要区分:

  • 客户端访问香港集群的延迟;
  • 采集端写入香港集群的延迟;
  • Elasticsearch 节点之间的内部通信延迟;
  • 快照仓库或异地备份链路延迟;
  • 高峰期丢包、抖动和重传情况。

Elasticsearch 节点之间不适合依赖不稳定的广域链路组成一个强耦合集群。香港机房内的多个节点要确认是否位于稳定的私有网络或内网环境,并核实节点间带宽、延迟和故障隔离方式。客户端或采集端距离较远时,应将网络抖动造成的写入积压、重试和峰值放大纳入容量模型。

CPU、内存、磁盘和带宽的选择关系

资源适合优先加大的情况不适合单独依赖的情况
CPU查询并发高、全文检索多、脚本或聚合消耗高磁盘 I/O 已饱和、堆内存不足
内存聚合多、字段基数高、缓存命中要求高、分片多低速磁盘造成的持续 I/O 等待
SSD写入频繁、段合并多、检索延迟要求高仅靠 SSD 解决分片过多或查询设计问题
大容量磁盘保留周期长、warm 数据多、查询频率较低热数据写入和高并发聚合场景
网络带宽副本多、节点恢复频繁、查询响应大、跨区域写入CPU 或磁盘已经成为主要瓶颈
数据节点数量存储、CPU、并发或故障余量不足单个复杂查询本身效率低、映射不合理

热数据通常更依赖低延迟 SSD 和较高 CPU,温数据则更关注单位容量成本。若使用 hot/warm 等数据层,应按层分别计算主分片、副本和故障余量,不能把所有数据简单平均到所有节点上。热层任意一个节点下线后,如果剩余热层容量不足,温层还有大量空闲空间也不能直接解决热层故障。

香港服务器的成本评估也不能只看单台月租,还要纳入:

  • 数据节点数量和磁盘规格;
  • 专用主节点或协调节点;
  • 带宽、流量和峰值带宽计费方式;
  • 快照存储;
  • 跨站点或异地备份链路;
  • 扩容后重新分配和恢复期间的临时资源。

具体费用和库存会随服务器方案、磁盘类型及带宽计费模式变化,容量方案确定后再按 A5IDC 当前可交付规格核算更合适。

面向Elasticsearch集群的数据增长与节点分工,A5数据提供香港Xeon Gold及AMD EPYC物理服务器,配合多档内存、SSD或NVMe存储,为搜索计算、索引写入和文件缓存提供资源基础;香港大容量存储系列可承接快照文件与历史数据归档。不同配置的CN2及国际带宽选择,也为业务访问与数据采集提供网络资源,形成覆盖计算、存储和网络的集群部署基础。

一个可复核的容量估算示例

下面用一组假设数据说明推演过程,示例不是具体服务器的实测结果,也不代表固定产品配置。

业务条件:

  • 每天原始数据:200 GB;
  • 保留周期:30 天;
  • 索引占用比例:1.25;
  • 副本数:1;
  • 段合并、Translog 和运行余量:20%;
  • 磁盘目标使用率:70%;
  • 规划未来 6 个月;
  • 当前月增长率:10%。

第一步:计算当前数据需求

原始保留量:

200 GB/天 × 30 天 = 6,000 GB

主分片数据量:

6,000 GB × 1.25 = 7,500 GB

主副本合计:

7,500 GB ×(1 + 1)= 15,000 GB

加入 20%运行余量:

15,000 GB × 1.2 = 18,000 GB

按 70%目标使用率折算物理磁盘:

18,000 GB ÷ 0.7 ≈ 25,714 GB

因此,当前阶段的物理磁盘规划值约为 25.7 TB。

第二步:计算未来增长

如果每天数据量按月增长 10%,6 个月后的规模约为当前的:

1.1^6 ≈ 1.77

未来 6 个月容量需求约为:

25.7 TB × 1.77 ≈ 45.5 TB

这说明当前容量足够,并不代表可以覆盖完整的 6 个月增长周期。若采用 4 个 10 TB 数据节点,单节点故障后的可用容量约为 21 TB,既无法覆盖当前 25.7 TB,也无法满足未来增长;即使扩展到 5 个 10 TB 数据节点,单节点故障后约有 28 TB,可覆盖当前规划,但仍不能覆盖 45.5 TB 的未来需求。

一个可复核的容量估算示例配图

可选调整方向包括:

  • 增加数据节点数量;
  • 使用更大容量的节点;
  • 将低热度数据迁移到 warm 层;
  • 缩短在线保留周期,将历史数据交给快照或其他存储;
  • 重新评估索引映射,减少不必要字段和过度索引;
  • 将副本从 2 份降低到 1 份,但要重新评估可用性和恢复目标。

每个调整都会改变查询延迟、恢复时间、成本或数据保护能力,不能只看磁盘总量。

第三步:估算分片规模

假设希望单个主分片稳定在 30~50 GB 的参考范围内,7,500 GB 主分片数据大约需要:

  • 按 50 GB 计算:约 150 个主分片;
  • 按 30 GB 计算:约 250 个主分片。

如果按天建立索引,平均每天产生 200 GB 主分片数据,可以从每天 4~8 个主分片的范围开始验证,再结合查询访问模式调整。目标不是单纯追求分片越小越好,而是同时控制:

  • 单分片恢复时间;
  • 每个请求访问的分片数量;
  • 节点上的分片总数;
  • 集群状态大小;
  • 查询协调和聚合归并成本;
  • 未来索引滚动和生命周期管理复杂度。

分片大小没有适合所有工作负载的硬性标准。写入频繁、恢复时间要求短的索引可以倾向较小分片;查询以大范围聚合为主时,过多小分片会增加协调开销。最终应通过样本索引和查询压测确定。

第四步:估算写入网络和并发

200 GB/天的平均原始写入速率约为 18.52 Mbps,峰值系数取 4 时约为 74.08 Mbps。若设置 1 个副本,至少还需要考虑一份副本数据在节点间传输。实际网络需求还会受到以下因素影响:

  • Bulk 请求是否压缩;
  • 单批文档大小;
  • 副本节点位置;
  • 段合并和恢复频率;
  • 搜索响应大小;
  • 聚合结果是否包含大量桶;
  • 节点之间是否共享网络出口。

如果峰值搜索为 300 QPS、平均延迟为 150 毫秒,活跃请求约为 45 个;如果峰值上升到 600 QPS、延迟达到 200 毫秒,活跃请求约为 120 个。此时应观察搜索线程池队列、拒绝数、CPU 和 p95/p99 延迟,而不是只看平均 QPS。

分片和节点规划中的常见边界

分片过少和分片过多都可能成为瓶颈

分片过少时,单个分片可能过大,节点故障后的恢复时间变长,写入和查询集中在较少节点上。分片过多时,集群状态、线程池、查询协调、内存和恢复任务都会增加。

以下情况需要重新检查分片设计:

  • 一个搜索请求经常访问大量历史索引;
  • 每日索引的主分片数固定,但每天数据量变化很大;
  • 节点总分片数量持续增长,堆内存随之升高;
  • 分片很小,但查询仍然很慢;
  • 单个分片过大,节点重启或副本恢复时间过长;
  • 使用深分页、全量聚合或高基数 terms 聚合。

增加副本并不会降低单个分片的数据量,也不会减少一个请求需要访问的分片数。副本更适合用于读压力和可用性规划,不适合作为分片设计问题的替代方案。

查询变慢不一定需要增加服务器

如果瓶颈来自以下原因,单纯增加节点可能收益有限:

  • 对不需要全文检索的字段使用了复杂文本分析;
  • 对高基数字段执行大规模聚合;
  • 返回大量 _source 字段;
  • 使用深分页;
  • 查询范围覆盖过多时间索引;
  • mapping 中存在不必要的多字段;
  • 刷新频率、Bulk 批次或更新方式不合适;
  • 分片数量导致每个请求产生大量分片级任务。

这类问题应先通过慢查询、查询剖析、线程池和字段使用情况确认,再决定是改查询、改 mapping、调整索引生命周期,还是增加硬件。节点扩容无法自动修复每个请求都访问全部历史分片的设计。

磁盘瓶颈和 CPU 瓶颈的扩容方向不同

可以通过指标区分常见瓶颈:

  • CPU 长时间较高,磁盘延迟正常,通常优先增加数据节点或 CPU;
  • 磁盘利用率高、I/O await 上升,优先考虑更快磁盘、减少写放大或增加节点;
  • Heap 使用率高、频繁 Old GC,优先检查聚合、字段基数、分片数量和堆配置;
  • 网络吞吐接近上限、丢包或重传增加,优先检查带宽、节点间链路和查询返回量;
  • 协调节点 CPU 高而数据节点压力中等,可考虑分离协调节点;
  • 主节点出现高负载或集群状态任务堆积,应先检查分片数量和集群状态,而不是继续增加副本。

增加节点后还会触发分片迁移,扩容期间需要额外的网络和磁盘能力。若现有集群已经处于磁盘高水位或写入拥塞状态,扩容时的迁移速度可能比正常估计更慢,因此要提前留出迁移余量。

用压测把估算值变成可执行规格

容量模型完成后,建议建立一个接近生产的验证环境。样本至少应包含:

  • 生产中占比最高的字段类型;
  • 完整 mapping 和 analyzer;
  • _source、Doc Values 等正式配置;
  • 实际索引生命周期和保留策略;
  • 主分片和副本设置;
  • 平均请求与峰值请求的比例;
  • 全文检索、过滤、排序和聚合的混合比例;
  • 写入、更新、删除和查询同时发生的场景。

压测不要只测平均流量,应至少包含以下阶段:

用压测把估算值变成可执行规格配图

  1. 按计划平均写入速率持续运行,观察稳定状态下的资源使用;
  2. 将写入和搜索提升到预计峰值,观察 p95、p99 和线程池队列;
  3. 模拟流量短时突增,检查是否出现请求拒绝或写入积压;
  4. 执行一个数据节点下线或重启场景,观察副本重建和查询可用性;
  5. 在节点恢复期间继续保持业务流量,检查恢复是否进一步拖慢线上请求;
  6. 观察磁盘水位、段合并、GC 和网络,确认容量不是只在空闲时满足。

验收指标应使用业务目标,而不是套用一个对所有场景都适用的数字。可以建立如下记录表:

指标记录方式容量判断
写入成功率按分钟统计成功、失败和重试判断写入链路是否有积压
搜索 p95/p99按查询类型分别统计判断峰值延迟是否满足业务目标
CPU区分节点和时间窗口判断是否存在持续计算瓶颈
Heap 与 GC记录使用率、GC 次数和停顿判断内存与查询是否稳定
磁盘使用率记录每个数据节点和数据层判断增长周期和故障余量
I/O 吞吐与延迟区分读、写、合并和恢复判断磁盘是否拖慢服务
线程池队列和拒绝搜索、写入、Bulk 等分别记录判断是否出现排队或过载
分片迁移时间记录副本重建和节点恢复判断故障恢复目标是否可达
节点间网络记录吞吐、丢包和重传判断副本、恢复和协调是否受限

压测得到的是某种硬件、版本、映射和查询组合下的结果。更换磁盘类型、节点规格、Elasticsearch 版本或查询结构后,应重新校准,不应把一次压测结果直接作为所有方案的承载承诺。

监控指标和扩容阈值如何确定

扩容阈值应同时考虑当前使用率、增长速度、故障后的余量和采购交付周期。只设置“磁盘满了再扩容”通常过晚,因为节点加入后还要经历分片分配、数据迁移和缓存重新建立。

建议持续监控的五类指标

集群层面

  • 集群健康状态;
  • 未分配分片数量;
  • 分片迁移和恢复进度;
  • 集群任务积压;
  • 主节点切换和集群状态更新时间。

节点层面

  • CPU 使用率和系统负载;
  • JVM Heap 使用率;
  • Old GC 次数与停顿;
  • 文件描述符和线程池;
  • 节点角色分布。

索引层面

  • 每秒写入文档数和字节数;
  • 搜索 QPS、Bulk QPS;
  • 查询 p95/p99;
  • 写入和搜索拒绝数;
  • 刷新、合并和 Translog 情况。

存储层面

  • 每个节点和每个数据层的已用空间;
  • 磁盘 I/O 利用率;
  • 读写延迟;
  • 段合并吞吐;
  • 剩余空间与日增长量。

网络层面

  • 客户端入口和出口流量;
  • 节点间复制与恢复流量;
  • 丢包、重传和连接错误;
  • 查询响应大小;
  • 快照或备份链路流量。

将参考阈值绑定到时间窗口

阈值需要结合业务 SLO 和历史基线确定。没有基线时,可以先使用下面的参考分层:

状态参考信号建议动作
正常磁盘低于约 70%,无持续拒绝,Heap 和 GC 平稳继续观察并记录增长率
关注磁盘接近 70%~80%,CPU 或 I/O 在峰值期间持续偏高,p99 出现上升检查查询类型、分片和增长预测,准备扩容
准备扩容预计规划周期内超过 80%,或单节点故障后容量不足确认节点规格、带宽和迁移窗口
立即处理出现未分配分片、写入拒绝、频繁 GC、磁盘接近高水位或业务 SLO 持续不达标先控制流量或降低非必要负载,再执行扩容或分层调整

“持续偏高”应定义具体时间窗口,例如连续 15 分钟、连续 3 个峰值周期,或在多个工作日重复出现。单次流量尖峰不一定需要扩容,但如果峰值频繁出现,就应将其纳入正式容量基线。

还可以用增长速度估算何时触及扩容线:

到达扩容线的时间 ≈(扩容线对应容量 - 当前已用容量)÷ 日净增长量

例如节点集群的扩容线为 80%,当前使用率为 68%,每天净增长 0.4 个百分点,则约有:

(80 - 68)÷ 0.4 = 30 天

如果服务器交付、系统初始化、节点加入和分片迁移预计需要 15 天以上,那么 30 天并不宽裕,还应扣除故障、流量波动和迁移期间的安全余量。

最终的香港服务器方案应同时满足四个条件:正常峰值下请求延迟符合业务目标,未来规划周期内磁盘有增长空间,单节点或目标故障域下线后仍能容纳数据,扩容和副本恢复期间不会把集群推入持续过载。满足这四点后,再根据热数据、温数据、主节点和协调节点的实际角色选择节点规格,容量规划才不会停留在“按数据量购买几台服务器”的单一估算上。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/3458.html

相关推荐