在香港服务器部署ClickHouse,如何规划数据磁盘容量?

发布人:A5数据发布时间:2026-10-11 16:48阅读量:168

每天写入多少数据、需要保留多久、未来几个月增长多少,决定了ClickHouse数据盘的基本容量;查询并发、批量补录、后台合并和副本恢复,则决定这块磁盘能否在接近规划容量时继续正常工作。在香港服务器上部署ClickHouse,不能只按“原始数据量÷压缩比”选硬盘,还要把保留窗口、分片分布、临时空间和扩容提前量一起计算。

比较稳妥的方法是:先建立业务负载画像,再估算每个节点的常驻数据,叠加TTL清理滞后、合并与重写、备份暂存等空间,最后保留独立的运行余量。香港机房位置不会直接改变ClickHouse的压缩率,但服务器的磁盘交付方式、跨地域写入链路,以及副本重建带宽,会影响容量方案的可用性和扩容时间。

一、先把业务负载转换成容量输入

写入量要统一口径,不能直接拿日志文件大小套公式

容量规划首先需要确定“每日新增数据量”指什么:应用产生的原始日志、进入ClickHouse之前的JSON文件,还是按照目标表结构转换后的未压缩数据。

这几种口径并不相等。原始JSON中的字段名、格式字符可能占据较多空间,转成列式数据后,其大小和可压缩性都会变化。如果拿原始文件大小与ClickHouse的列数据压缩比相除,可能得到失真的结果。

建议至少整理以下输入:

输入变量建议采用的口径对容量的影响
每日新增量按目标字段类型统计,或通过代表性样本换算决定日增存储
保留时间各类数据分别记录,单位为天决定常驻数据规模
增长率日增长或月增长,明确计算周期决定规划期末需求
写入峰值每秒行数、字节数及持续时间决定写入与合并压力
批量补录单次补录量、频率、是否包含过期数据决定短期容量峰值
查询负载并发数、扫描范围、请求类型决定CPU、内存和读盘压力
数据布局分片数、副本数、分片倾斜程度决定单节点与集群容量

如果不同表分别保留7天、90天和一年,应分别计算后相加,不能用一个平均保留时间代替。明细表、汇总表和物化视图目标表也可能同时占用存储,需要逐项计入。

并发和请求量不直接等于磁盘容量

每天执行多少次查询,通常不会直接增加多少永久数据,但会改变磁盘性能要求和临时空间需求。

查询少量列、带有效过滤条件的请求,与扫描数十天明细的聚合查询,即使并发数相同,资源消耗也可能相差很大。包含排序、关联和复杂聚合的查询,还可能在启用且满足相关条件时使用磁盘临时空间。

因此,容量画像要区分:

  • 常驻容量负载:持续写入、历史保留、汇总表、索引和投影等。
  • 短期空间负载:补录、后台合并、数据重写、查询临时文件和备份暂存。
  • 磁盘性能负载:查询扫描、持续写入、后台合并及副本拉取同时发生时的读写压力。

这里的关键判断是:磁盘放得下数据,不代表磁盘能及时处理这些数据。容量规划必须同时满足空间约束和吞吐约束。

峰值要看持续时间和重叠关系

一分钟写入高峰与持续四小时的高峰,对合并积压的影响不同。月末补录如果与报表查询、备份任务重叠,峰值空间和I/O需求也会叠加。

可以按“日常时段、业务峰值、补录窗口、故障恢复”建立负载场景。只有确实不会重叠的任务,才适合按较大值预留;可能同时运行的任务,应计算其叠加需求。

二、把数据规模换算成每个节点的磁盘需求

先估常驻数据,再加入实际额外占用

为避免混用单位,下文容量示例采用十进制口径:1 TB=1000 GB,1 GB=1000 MB。服务器系统若显示TiB或GiB,需要换算后比较;磁盘标称容量也不等于文件系统实际可用容量。

对于常见的MergeTree系列表,可以先使用以下估算关系:

单份常驻容量=保留窗口内未压缩数据总量÷压缩比×额外占用系数。

压缩比应来自相近字段结构、编码方式和数据分布的样本。重复值较多的状态字段,与高基数标识、随机字符串、已经压缩过的内容,表现并不相同。字段类型、排序键和编解码器发生变化后,旧压缩比也可能失去参考价值。

额外占用系数用于补充基础列压缩估算未覆盖的空间,例如标记文件、索引,以及需要单独计入的额外数据结构。投影、物化视图目标表若体量较大,应独立测量,不宜全部塞进一个小比例。

如果直接采用已落盘的bytes_on_disk推算,就不应再次机械叠加同一部分开销。

用代表性样本校正压缩率

只有几分钟数据、单一客户数据或尚未完成正常后台合并的数据,可能不能代表长期存储状态。样本应覆盖常见字段分布、不同日期和主要业务类型,并观察合并后的体积。

下面的只读SQL可用于查看当前节点上的活跃数据部件:

SELECT
    database,
    table,
    sum(rows) AS row_count,
    sum(bytes_on_disk) AS active_bytes_on_disk,
    sum(data_compressed_bytes) AS compressed_column_bytes,
    sum(data_uncompressed_bytes) AS uncompressed_column_bytes,
    round(
        sum(data_uncompressed_bytes)
        / nullIf(sum(data_compressed_bytes), 0),
        2
    ) AS column_compression_ratio
FROM system.parts
WHERE active = 1
GROUP BY
    database,
    table
ORDER BY active_bytes_on_disk DESC;

这里的压缩比是列数据口径,不等于整块磁盘的压缩比;活跃部件大小也不包含全部非活跃部件、临时文件、日志和备份。还需与磁盘实际使用量交叉核对。

该查询反映当前节点。分片集群中,需要分别采集各节点;同一分片有多个副本时,不要将所有副本大小相加后,当成一份逻辑数据量。

分片和副本要分别计算

分片用于分摊数据和计算负载,副本用于冗余。两者对容量的作用不同:

单节点常驻容量≈单份数据总量÷分片数×分片倾斜系数。
集群物理存储需求≈所有节点规划容量之和,而不是只计算一份逻辑数据。

例如两个分片、每个分片两个副本,通常需要四份节点容量预算。副本数增加不会自动降低每个副本保存的数据量,也不能替代独立备份。

分片倾斜系数用于反映较大分片相对平均分片的偏差。租户大小差异明显、分片键分布不均时,不能默认每个节点都精确承担一半数据。

还要核对服务器的实际存储交付方式:几块硬盘、是否使用RAID、RAID后的可用容量、哪些盘承载系统和数据。物理硬盘容量相加,不一定等于ClickHouse能够使用的容量。

三、判断瓶颈:先扩空间,还是先提高磁盘性能

合并速度跟不上,容量会被积压持续消耗

MergeTree系列表会产生数据部件,并通过后台合并整理数据。写入过于零碎时,小部件数量增加,调度、元数据和合并开销也会上升。

合并通常需要在旧部件仍存在时写出新部件,所以不能把磁盘规划到接近全满。用于合并的空间也不宜简单写成“全库再留一份”:实际峰值取决于部件大小、并行合并任务、表结构和后台工作量。

需要重点观察:

  • 活跃部件数量是否持续上升,而不是短期波动。
  • 后台合并任务是否长期积压。
  • 写入延迟是否随磁盘延迟一起增加。
  • 业务低峰期间,积压能否回落。
  • 磁盘剩余空间减少后,合并是否受到进一步限制。

如果空闲空间充足,但写入峰值期间磁盘延迟明显升高、合并长期追不上,仅增加相同性能的存储容量未必有效。此时可能需要改善写入批次、升级存储性能,或者增加分片。

查询瓶颈不能全部归因于数据盘

高并发下查询变慢,应把CPU、内存、扫描量和磁盘读取关联起来看:

观测现象优先核对对容量决策的含义
CPU繁忙,磁盘等待不明显查询计算量、解压、聚合与关联扩磁盘容量通常不是首选
内存压力高,临时文件增加大型排序、关联、聚合与并发控制需要内存预算及临时空间预算
缓存外查询慢,读盘延迟升高实际扫描字节数、磁盘读吞吐可能需要更高性能磁盘或分片
写入与查询同时变慢合并、查询和写入是否争用同一磁盘需要按混合负载验证
空间周期性猛增补录、重写、备份、TTL处理滞后先识别峰值来源,再增加余量

如果业务主要查询最近几天的数据,内存缓存可能掩盖冷数据读取压力。验收时应包含超出缓存规模的历史查询,不能只看重复执行同一条查询的结果。

香港服务器还要考虑数据搬运窗口

香港服务器部署ClickHouse时,应用写入端可能位于其他地区。需要分别核对业务写入链路、节点间复制链路和备份传输链路的可持续吞吐。

以需要搬运5.65 TB数据为例,按十进制单位计算:

  • 数据量为5,650,000 MB。
  • 1 Gbps理论上对应125 MB/s,纯传输时间约45,200秒,即12.6小时。
  • 若有效吞吐为600 Mbps,即75 MB/s,纯传输时间约20.9小时。

上述计算未计入磁盘争用、协议开销、限速和恢复过程中的新增写入。网络路径不同,有效吞吐也可能不同,不能把服务器端口标称带宽当成端到端恢复能力。

这会反过来影响容量余量:如果增加节点或重建副本需要较长时间,就必须更早触发扩容,给数据迁移留出窗口。

四、用一个完整算例确定容量与运行余量

先算规划期末的保留窗口

下面是一组用于说明方法的估算条件,不代表具体服务器的承载保证:

变量示例条件
初始每日未压缩新增量300 GB
数据保留时间90天
规划期未来90天
增长方式三个30天区间分别按300、360、432 GB/天计算
列数据压缩比4∶1
基础列压缩量之外的额外占用按15%估算
数据布局两个分片,每分片两个副本
分片倾斜系数1.2

如果每日新增量始终为300 GB,90天单份常驻容量为:

300 GB/天×90天÷4×1.15=7762.5 GB,即7.7625 TB。

但按示例增长条件,规划期末保留的是未来三个30天区间的数据,因此应计算:

  1. 保留窗口内未压缩总量:

300×30+360×30+432×30=32,760 GB。

  1. 压缩后的基础列数据量:

32,760÷4=8190 GB。

  1. 加入额外占用:

8190×1.15=9418.5 GB,即9.4185 TB。

  1. 分摊到两个分片,并计入倾斜:

9.4185÷2×1.2=5.6511 TB。

因此,较大分片上的每个副本,规划期末约需5.65 TB常驻空间。不能把“两分片、两副本”理解成将9.4185 TB除以四。

四、用一个完整算例确定容量与运行余量 / 先算规划期末的保留窗口配图

这个算法还说明:有固定保留周期时,应计算规划时点对应的滚动窗口,而不是把所有历史新增量无限累加。窗口之外的数据,也要确认已经实际删除。

TTL、合并和备份分别预留

ClickHouse的TTL处理依赖后台任务,数据达到过期时间不意味着磁盘立即释放。若容量预算按“保留90天”计算,就应为可接受的清理滞后另留空间。

沿用示例,以末期432 GB/天、清理滞后2天估算:

432×2÷4×1.15=248.4 GB。

分到两个分片并考虑倾斜后,每个较大节点需要:

248.4÷2×1.2=149.04 GB,约0.15 TB。

再为该节点设置以下空间预算:

空间项目示例预算确定方法
规划期末常驻数据5.65 TB数据增长、保留窗口和分片计算
TTL清理滞后0.15 TB末期日增量×可接受滞后时间
合并、重写及查询临时空间0.80 TB根据可重叠任务的峰值估算
本地备份暂存0.50 TB仅适用于暂存量受控的远端备份流程
日志及其他文件0.15 TB按文件实际所在磁盘和保留策略计算
合计7.25 TB以上项目相加

其中0.50 TB不是完整备份的容量。如果方案需要在本地保存一份完整备份,就必须另按备份方式和保留份数计算,不能沿用这个暂存预算。

0.80 TB也不是ClickHouse的固定推荐值。大规模数据重写、多任务并行或大型查询落盘,可能需要更多空间,应通过代表性任务校正。

运行余量必须独立于已预算的峰值

如果要求上述预算全部出现时,仍保留25%的可用空间,则:

目标可用容量=已预算的峰值占用÷(1-运行余量比例)。

示例中:

7.25÷0.75≈9.67 TB。

这意味着该节点应具备不少于约9.67 TB的实际可用容量,而不是购买标称9.67 TB的物理硬盘即可。还需考虑RAID、格式化、系统预留以及磁盘显示单位的差异。

一条按容量比例绘制的堆叠横条,左侧75%为五项预算共7.25 TB,右侧25%为空闲余量约2.42 TB;窄项用外置标注

这里的25%是示例运行目标,不是所有部署都必须采用的统一值。大部件合并频繁、扩容周期长、增长不确定时,应留得更宽;任务峰值可控、增长稳定且能够快速扩容时,可以结合验证结果调整。

选购香港服务器时,应按实际可用容量、持续混合读写能力、后续扩容路径比较方案。更便宜但性能不足的磁盘,可能让后台积压持续增加;容量很大的单机,也可能在CPU或恢复时间上先遇到限制。

围绕ClickHouse的数据容量与读写需求,A5数据提供香港Xeon Gold、AMD EPYC物理服务器,搭配不同档位的内存及SSD、NVMe存储,为数据写入、后台合并和分析查询提供硬件基础;香港存储系列以多块企业级大容量硬盘承接备份与归档需求。香港产品中的CN2及国际带宽方案,也为跨地域数据接入和传输提供网络资源选择,形成计算、在线数据存储与备份归档相结合的部署基础。

五、用监控确定扩容触发点,而不是等磁盘告警

同时监控活跃数据和磁盘实际占用

ClickHouse活跃数据增长可以解释业务规模,但扩容决策还需要实际磁盘占用。对于本地数据盘,可用下面的只读SQL查看ClickHouse识别到的磁盘空间:

SELECT
    name,
    path,
    total_space,
    free_space
FROM system.disks;

应将结果与操作系统文件系统监控交叉核对。若采用远端存储或特殊磁盘类型,不应直接把这里的空间字段当作本地文件系统容量;还需要单独监控远端配额、本地缓存和暂存空间。

建议持续记录节点级磁盘利用率、每日活跃数据增量、实际磁盘净增量、部件数量、合并积压、副本同步滞后,以及查询延迟和磁盘延迟。集群平均值可能掩盖较大分片,容量告警应落实到每个节点。

扩容时间线应倒推,而不是只设一个百分比

设实际可用容量为C,运行目标要求保留25%空间,则常态规划上限为0.75×C。但触发扩容的时间,还取决于采购、交付、配置、迁移和验收需要多久。

在短期净增长近似稳定时,可以使用:

距离规划上限的天数≈(规划上限-当前占用-尚未发生但需要预留的任务峰值)÷每日磁盘净增长量。

若预计20天后达到规划上限,而从启动扩容到完成验收需要15天,就不能等到第19天才下单。还应加入业务预测误差和恢复任务的缓冲时间。

统一时间轴从现在到第20天,标明第5天为不含缓冲的最迟启动点,以15天扩容周期回推;在第5天之前标出未量化的缓冲区

固定保留周期进入稳定状态后,净增长可能接近零,此时上述线性算法不再适用。应改用滚动窗口模型,并检查新增量是否上升、TTL是否滞后、压缩率是否下降,以及是否出现新的副本或数据结构。

阈值要对应实际动作

可以将以下分级方式作为初始参考,再依据节点特征调整:

触发条件应采取的动作
预计在“扩容提前量+缓冲时间”内达到规划上限启动扩容,不等待固定利用率告警
利用率达到约65%,且趋势持续上升复核增长预测、备份和后台任务预算
接近约75%的规划上限推进扩容交付,审核大规模补录和重写任务
达到约85%或更高进入紧急空间处置,不能作为正常运行目标
空间充足,但合并积压或查询延迟持续超标优先处理性能瓶颈,不只增加容量

这些百分比只有在采用相应余量目标时才有意义。如果单次任务可能占用更大空间,阈值必须提前;如果任务峰值已有严格控制,也应依据实际监控修订,而不是照搬。

新服务器交付验收还应覆盖代表性写入、冷数据查询、后台合并和恢复传输。验收指标使用业务能够接受的查询延迟、写入延迟和恢复时间,而不是脱离场景的单项测速结果。

最终,香港服务器上的ClickHouse容量方案应能回答三个具体问题:规划期末每个节点放多少数据,任务重叠时还剩多少空间,剩余窗口是否足够完成扩容。用这些问题反推监控指标和触发阈值,才能把磁盘采购从一次性的容量选择,变成可持续校正的资源规划。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/3243.html

相关推荐