物理服务器RAID巡检读取会影响业务I/O吗?如何区分巡检负载与磁盘瓶颈
巡检读取本身就会占用磁盘I/O,这一点毋庸置疑,但“巡检在跑”和“巡检拖垮业务”之间隔着相当大的距离。实际运维中最常见的误判有两类:一是看到巡检期间业务延迟上升,就直接关掉巡检或拉长周期,把本该尽早暴露的坏盘风险拖到故障发生;二是把巡检期的延迟抖动当成磁盘性能瓶颈,投入预算扩容或换盘,问题却没有消失。区分这两者,靠的不是感觉,而是几组可以明确定义、采样和解释的指标。
巡检为什么必然影响业务I/O
RAID巡检(Consistency Check / Patrol Read,不同控制器叫法不同)的原理是逐块读取阵列中所有成员盘的数据并校验冗余。以一块10TB的机械盘、巡检周期7天估算,仅巡检读这一项就需要持续占用大约16.5MB/s的平均读取带宽;如果巡检被压在夜间4小时窗口内完成,瞬时读取需求会上升到约5.8MB/s乘以8再换算——10TB换算为10000GB,10000GB ÷ (4×3600s) ≈ 0.69GB/s,约合5.5Gbps的持续读流量,对SATA盘阵列来说已经不是小数目。
更关键的影响路径是寻址竞争。机械盘的顺序读能力通常在150~250MB/s,但巡检读和业务的随机读写共享磁头,队列深度上升后,业务请求的平均寻道时间被拉长。一块业务负载以4KB随机读为主的SATA盘,顺序读占比哪怕只增加30%,随机读延迟也可能从典型的8~12ms翻倍到20ms以上。这就是巡检影响业务的直接机制:不是“磁盘变慢了”,而是共享的机械资源被分走了。

RAID卡的调度策略决定了影响的上限。多数企业级控制器(如LSI/Broadcom的MegaRAID系列)支持巡检速率设置,常见档位从1%到100%的控制器处理能力。同一台服务器、同样的业务负载,巡检速率设在10%和设在50%,业务侧感受到的延迟差异可能达到数倍。这也是后面区分巡检负载与磁盘瓶颈时最重要的对照变量。
需要关注的核心指标及其含义
判断巡检是否影响业务、影响多大,需要同时看三层指标:业务层、阵列层、磁盘层。
| 层级 | 指标 | 典型采集方式 | 含义与解读要点 |
|---|---|---|---|
| 业务层 | 应用响应时间P95/P99 | 应用监控、APM | 延迟上升的时间分布与巡检窗口是否重合 |
| 系统层 | iowait、await、util | iostat -x 1、sar -d | await是否显著高于设备固有延迟 |
| 阵列层 | 控制器读写IOPS、BBU状态、巡检进度 | RAID卡管理工具 | 巡检速率档位、剩余进度、是否触发rebuild |
| 磁盘层 | 单盘延迟、介质错误计数、重映射扇区 | SMART(smartctl) | 巡检真正的目的:发现潜在坏盘 |
其中几个指标需要特别说明口径。iostat输出中的await是请求在队列中等待加服务时间的平均值,它受队列深度影响极大,不能直接与硬盘标称延迟比较;%util在多路径或SSD上经常失真,机械盘单盘场景才有参考意义。阵列层的巡检进度百分比是最容易被忽略的信号:如果巡检进度长期停滞在某一位置,往往不是调度问题,而是某块盘在该区域读取异常缓慢,这本身就是巡检发现问题的表现。
CPU和内存虽然在标题之列,但在巡检场景中通常是次要角色。硬件RAID的校验计算由控制器完成,主机CPU占用变化很小;软RAID(mdadm)的巡检校验则会消耗可感知的CPU,以现代多核服务器为例,一个核心跑满可能对应数百MB/s的校验吞吐。如果巡检期间CPU单核接近100%且业务延迟同步上升,问题指向巡检速率设置而非磁盘本身。
采样方法与影响变量
有效的采样需要覆盖巡检开和关两种状态,否则无法归因。基本的对照流程如下:
- 记录当前RAID巡检计划(周期、时间窗口、速率档位),以MegaRAID为例可用
storcli /c0 show patrolread查看配置。 - 在巡检关闭或非巡检时段,采集至少30分钟的业务稳态基线:iostat每秒采样、应用P99延迟、磁盘SMART基础数据。
- 在巡检运行时段,以同样间隔采集相同指标,同时记录巡检进度。
- 修改巡检速率档位(例如从50%降到10%),重复步骤3,形成第三组对照。
- 对比三组数据中业务层指标的差异幅度。
影响结果解释的变量主要有四个。第一是业务负载形态:巡检对顺序写密集型业务的干扰远小于对随机读密集型业务,同样10%的巡检速率,数据库OLTP场景可能延迟上升30%以上,而视频存储等大文件顺序场景可能几乎无感。第二是阵列冗余级别:RAID 6的巡检校验计算量高于RAID 10,软RAID场景差异更明显。第三是磁盘类型:SSD没有寻道惩罚,巡检读取对业务延迟的影响通常在个位数百分比;机械盘则可能是数倍。第四是是否有独立巡检窗口和限速能力——没有限速能力的入门级控制器,巡检影响会大得多。
一个简化的示例可以说明归因逻辑。某台承载OLTP数据库的机械盘RAID 10服务器,巡检窗口内P99延迟从15ms升到38ms,iowait从3%升到22%。将巡检速率从50%降到10%后复测,P99回到19ms。这组数据说明巡检占用的控制器和磁盘资源确实是主因,但10%档位下仍有小幅上升,说明巡检速率需要结合业务SLA继续下调或移窗口,而不是一刀切关闭。

如何区分巡检负载与真正的磁盘瓶颈
两者的关键区别在于:巡检负载的影响是计划性的、可复现的、随速率调整而线性变化的;磁盘瓶颈则是持续性的、与巡检无关的、且通常伴随硬件层面的异常信号。可以用下面这组判据来区分:
| 判据 | 巡检负载特征 | 磁盘瓶颈特征 |
|---|---|---|
| 时间相关性 | 严格跟随巡检窗口,进度完成后立即恢复 | 与巡检无关,全天候存在 |
| 速率敏感性 | 降低巡检速率后影响同比缩小 | 调整巡检速率几乎无变化 |
| SMART信号 | 介质错误、重映射扇区计数正常或缓慢增长 | 已有pending/uncorrectable扇区、CRC错误 |
| 延迟形态 | 业务延迟上升但单盘延迟未明显超标 | 单盘延迟显著高于同组其他盘 |
| 恢复行为 | 巡检结束延迟立即回落 | 巡检结束延迟不回落 |
操作上可以按这个顺序排查:先确认延迟上升时段与巡检窗口的重合度;重合则调整巡检速率做对照,影响同比缩小即可归因为巡检负载;不重合或调整无效,则逐盘查看SMART的Reallocated_Sector_Ct、Current_Pending_Sector和UDMA_CRC_Error_Count,并对比同阵列各盘的iostat读延迟——组内某块盘持续比其他盘高30%以上,通常意味着该盘接近故障,巡检恰恰是在帮你提前暴露它,此时该做的是按预案换盘,而不是关巡检。
还有一种容易被误判为磁盘瓶颈的情况:巡检与rebuild或后台BBU学习周期叠加。控制器同时执行巡检和重建时,磁盘压力远超单任务,业务延迟可能恶化到正常值的五倍以上。遇到异常严重的巡检期延迟,先确认 storcli /c0 show 输出中是否存在重建任务,再下结论。
决策边界与容量判断方法
巡检策略的调整应落在明确的边界内,而不是凭感觉取舍。可以作为决策参考的几条边界:
- 巡检期业务P99延迟上升控制在基线的20%以内,且巡检结束后完全恢复,视为可接受,保持现有计划。
- 上升幅度在20%~50%之间,优先将巡检速率降到10%以下档位,或将窗口移到业务低峰,同时保持巡检完整性——不要为了消除影响而无限拉长周期导致一个巡检周期超过数据风险容忍度。
- 上升超过50%或巡检结束后延迟不恢复,按磁盘瓶颈流程排查SMART与单盘延迟,此时的巡检是诊断信号而非干扰源。
- 软RAID场景可将校验限速写入
/proc/sys/dev/raid/speed_limit_min(默认约1000KB/s,可按业务压力调高,上限由max值约束),修改前记录原值以便回滚。
巡检窗口容量的判断可以用一个简单的换算方法:阵列总裸容量除以巡检窗口秒数,得到所需平均读速率,再对照该阵列在业务低峰的剩余读带宽。例如50TB阵列要在4小时窗口完成,平均需要约3.5GB/s的读吞吐——这已经超出多数SATA阵列的物理能力,说明窗口必须拉长或依赖控制器的后台限速机制分摊到全天。用这个公式预先验算,可以在上线前就发现巡检计划与业务容量是否匹配。
复测时建议固定三个条件:巡检速率档位、业务负载水平(可用合成负载工具按固定IOPS压测)、采样间隔与时长,任何一项变动都会让前后数据失去可比性。巡检策略调整后至少观察一个完整巡检周期再下结论,因为单次窗口的数据可能受当天业务波动干扰。对于A5IDC物理服务器托管和独服场景,我们建议在交付验收阶段就确认RAID控制器的巡检能力与限速档位,把它纳入例行容量规划,而不是等到第一次巡检引发告警时才临时应对。
A5数据提供多种存储配置的物理服务器。香港存储系列配备四块14TB企业级机械硬盘及H730控制器,适用于大容量文件、备份和归档业务;香港、美国的部分独服则提供NVMe存储,可承载数据库和业务后台等对I/O响应较敏感的负载。不同的磁盘资源为结合数据规模与业务读写特征规划容量、安排RAID巡检提供了硬件基础。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/5096.html

