构建时是否影响网站?香港EPYC 4464P+960GB NVMe如何验证持续集成I/O隔离效果?
网站平均响应时间没变,并不代表构建任务没有影响线上服务。持续集成中的依赖解压、小文件扫描、编译缓存读写和镜像打包,可能只在几十秒内推高磁盘队列,却让少量请求等待数百毫秒。对香港 EPYC 4464P+960GB NVMe 服务器而言,判断隔离是否有效,关键不是看“CPU还有空闲”或“NVMe吞吐很高”,而是看构建期间网站的 P95/P99 延迟、错误率与有效吞吐是否仍在业务预算内。
这套配置可以用于持续集成与网站服务共机运行,但处理器型号和 NVMe 容量本身不能证明隔离成立。验收需要在相同网站流量下,对照无构建、未限速构建、仅限制 CPU、进一步限制构建 I/O 的结果,同时检查内存回收、磁盘队列和构建耗时。只有网站达标、构建仍能按时完成,并且结果可以重复,才能认为当前负载下的隔离方案有效。
一、测试目标:证明构建没有突破网站的性能预算
把“网站不受影响”变成可判定条件
严格意义上的零影响很难证明,也不是大多数业务必须达到的目标。更实用的验收方式,是提前规定允许的性能波动,而不是测试结束后再寻找一个好看的指标。
以下是一组用于说明方法的参考目标,不是这款服务器的实测结果:
| 验收对象 | 无构建基线示例 | 构建期间的验收条件 |
|---|---|---|
| 网站 P95 响应时间 | 82 ms | 相对基线上升不超过 15%,即不超过 94.3 ms |
| 网站 P99 响应时间 | 135 ms | 相对基线上升不超过 20%,即不超过 162 ms |
| 请求错误率 | 0.03% | 不超过 0.10%,且没有持续超时窗口 |
| 有效吞吐 | 接近 200 请求/秒 | 固定到达率下不出现持续积压 |
| 单次构建耗时 | 允许按项目确定 | 例如不超过 420 秒 |
| 系统状态 | 无异常回收或重启 | 无 OOM、服务重启、磁盘写满 |
其中,延迟目标最好同时包含相对变化和绝对上限。例如,P99 即使只增加了 10%,但已经突破业务要求的 500 ms,也不能判为合格;反过来,极低延迟接口从 5 ms 变成 6 ms,虽然上涨 20%,却未必构成业务问题。
持续集成 I/O 隔离验收,是在规定的网站流量和构建负载下,验证网站服务质量没有突破预算,同时确认构建吞吐仍满足交付要求。它不是要求磁盘没有竞争,而是要求竞争的业务后果可控。
用四组对照定位隔离究竟解决了什么
建议至少保留以下四组测试:
| 测试组 | 构建状态 | CPU 控制 | I/O 控制 | 主要回答的问题 |
|---|---|---|---|---|
| A:网站基线 | 不运行构建 | 保持网站配置 | 无构建 I/O | 网站自身是否稳定 |
| B:直接共机 | 单任务构建 | 不额外限制构建 CPU | 不额外限速 | 共机干扰有多大 |
| C:限制 CPU | 与 B 相同 | 限制构建 CPU 时间 | 不额外限速 | 问题是否主要来自 CPU 争用 |
| D:增加 I/O 控制 | 与 C 相同 | 与 C 相同 | 对构建实施 I/O 控制 | I/O 控制是否进一步改善网站 |
B、C、D 的构建代码、依赖版本、内存限制、工作目录和缓存条件应一致。内存上限应足以完成任务,避免某一组因频繁回收或 OOM 改变了比较对象。
这四组不能只各跑一次。建议每组重复 3~5 轮,并交替测试顺序,减少温度、缓存和磁盘后台活动造成的偏差。最终看各轮分布及较差轮次,不只挑表现最好的一次。
二、指标含义:网站延迟与磁盘吞吐之间不是简单对应关系
先看网站,再看资源指标解释原因
网站验收应以真实业务接口为中心,至少覆盖动态页面、数据库查询和实际会访问本地文件的路径。如果压测对象只是已经命中 CDN 的静态文件,就无法判断源站磁盘竞争。
P95 表示约 95% 的请求延迟不高于该值,P99 则关注更慢的一部分请求。构建干扰往往首先体现在 P99,而平均值变化不大。除此之外,还需要观察超时、HTTP 错误、应用排队长度和成功完成的请求数。
压测最好使用能按固定到达率发起请求的方式。固定并发数的压测,在服务变慢后可能自动减少请求发送量,导致“吞吐下降了,但延迟看起来尚可”。固定到达率也需要确认压测端有足够能力,避免把客户端瓶颈当成服务器瓶颈。
例如,以 200 请求/秒持续测试 15 分钟,总请求量约为:
200 × 15 × 60=180,000 次。
这个规模适合观察 P95/P99 的变化,但不能仅凭一次测试就证明很低概率的故障不会发生。超时请求还应单独计入错误和业务延迟预算,不能从统计中删除后,只展示成功请求的分位数。
磁盘指标必须组合解释
| 指标 | 能说明什么 | 不能单独证明什么 |
|---|---|---|
| 读写吞吐,MB/s 或 MiB/s | 数据传输强度 | 小文件访问和同步写入是否顺畅 |
| IOPS | 每秒完成的 I/O 操作数量 | 每次操作的大小、延迟及业务价值 |
r_await、w_await | 读写请求从提交到完成的平均耗时 | 单个网站请求具体等待了多久 |
aqu-sz | 平均未完成 I/O 请求数量,反映排队程度 | 网站与构建各占多少队列 |
%util | 设备存在 I/O 活动的时间比例 | NVMe 是否已经达到性能上限 |
| I/O PSI | 任务因 I/O 等待而停顿的压力 | 压力一定来自当前这次构建 |
NVMe 支持并行处理请求,不能把 %util 接近 100% 直接理解成“已经跑满”,也不能因为吞吐只有几十 MB/s 就判断“磁盘很轻松”。大量小文件、元数据操作以及需要同步落盘的写入,都可能在吞吐不高时产生显著延迟。
还要分开看两条链路:
- 构建大量写入,推高同盘数据库的日志同步延迟,进而拖慢动态请求。
- 构建读取大量依赖,挤出网站文件与数据库的页缓存,随后网站产生更多实际磁盘读取。
后一种情况下,构建结束并不意味着网站立即恢复。缓存需要重新建立,因此验收窗口应覆盖构建前、构建中和构建后。
CPU 和内存是解释 I/O 结果的必要背景
EPYC 4464P 的处理能力并不能消除共享资源竞争。压缩、解压、编译和镜像打包都可能消耗大量 CPU;构建还会占用匿名内存和文件缓存。
如果网站 P99 上升,同时运行队列增长、CPU 接近满载,而磁盘延迟变化不明显,应优先怀疑 CPU 调度争用。如果出现持续换页、内存 PSI 上升或回收压力,I/O 变忙可能只是内存不足的后果。
“I/O 等待升高”不等于“只需要限磁盘”。必须结合 CPU、内存和磁盘时间线,区分资源竞争的起点与连锁反应。
三、影响变量:同一块 960GB NVMe,测试条件不同会得到不同答案
香港访问链路与服务器内部性能分开验收
面向香港服务器的公网压测,会同时受到访问地区、运营商路径、连接复用、TLS 握手和测试时段影响。这些因素可能掩盖服务器内部几十毫秒的变化。
建议保留两条观察路径:
- 使用独立压测机,在网络条件稳定、距离较近的环境中测试源站,重点观察服务器内部争用。
- 从业务实际用户所在地区测试公网访问,确认整体用户体验是否达标。
压测程序不宜与网站、构建一起放在被测服务器上,否则它也会争抢 CPU、内存和网络资源。两条路径应尽量使用相同业务请求,并记录服务端应用耗时;如果公网延迟上升而应用耗时稳定,就不应直接归因于 NVMe。
构建中的依赖下载和制品上传还会竞争出口带宽。若限 I/O 后网站仍慢,而磁盘等待已经下降,应检查网卡吞吐、丢包和连接排队。
构建缓存、文件分布与磁盘占用需要固定
同一个项目的首次构建和缓存命中构建,可能是两种完全不同的负载:
- 冷缓存构建更容易集中下载、解压、创建文件。
- 热缓存构建减少了依赖处理,但可能增加缓存扫描或校验。
- 镜像导出、压缩和制品归档会形成较长时间的连续读写。
- 测试阶段可能另起数据库或浏览器进程,带来额外内存和 I/O。
因此,验收至少应包含正常缓存命中构建,以及依赖更新或全量打包这类高负载场景。冷缓存测试应使用独立测试工作目录,不要为了制造条件清理生产站点缓存或生产数据。
960GB 是标称容量,不是性能承诺。按十进制计算,960GB 约等于 894GiB;分区、文件系统和预留空间还会影响实际可用容量。MB/s 与 MiB/s 也应区分:1 MiB=1,048,576 字节,不能把不同工具输出的数值直接混用。
SSD 的持续写入表现还与具体型号、固件、温度、剩余空间和历史写入状态有关。对采购或交付后的机器,应核对实际 NVMe 型号,而不是仅凭“960GB NVMe”推定持续性能。
分区和目录隔离,不等于设备级隔离
把网站放在一个目录、构建放在另一个目录,主要解决管理问题。即使划分为两个分区,只要仍在同一块 NVMe 上,就会共享设备队列、控制器和闪存资源。
常见资源控制也各有边界:
| 控制方式 | 适合解决的问题 | 需要注意的边界 |
|---|---|---|
| 构建并发限制 | 避免多个任务同时放大资源峰值 | 单个重任务仍可能干扰网站 |
| CPU 时间配额 | 限制编译、压缩占用的 CPU 时间 | 不等于为网站独占物理核心 |
| CPU 亲和性 | 缩小运行 CPU 范围 | 需检查 SMT 兄弟线程,仍共享部分硬件资源 |
| 内存限制 | 防止构建挤占过多内存 | 过紧会增加回收压力或导致任务失败 |
| I/O 带宽及 IOPS 上限 | 约束构建的块设备访问强度 | 需确认控制器启用、设备映射及写回归属 |
| I/O 权重 | 争用时表达相对优先级 | 效果依赖内核、调度器及实际工作负载 |
例如,systemd 的 CPUQuota=400% 表示相当于四个逻辑 CPU 的时间配额,并不代表独占四个物理核心。对于 I/O,权重属于相对分配,不能等同于带宽上限。
在 cgroup v2 环境中,还应确认 io 控制器在对应层级可用,并且限制应用于真正产生 I/O 的构建进程。Runner 启动的容器不一定与 Runner 本身处于相同控制边界。存在容器存储层、逻辑卷或设备映射时,也不能只根据目录名猜测受控块设备。
页缓存命中的读取不会触发物理磁盘读取;缓冲写入的限速效果还依赖内核和文件系统的写回归属支持。因此,“配置已保存”与“限制已生效”是两件事,必须查看实际 I/O 统计。
四、结果解释:用对照数据判断隔离是否真正有效
先确认监控能对应到同一时间窗口
以下命令用于只读检查 Linux 主机。iostat、pidstat 需要系统已安装 sysstat 工具;路径应替换成实际存在的网站和构建目录。
lscpu
lsblk -o NAME,TYPE,SIZE,MODEL,MOUNTPOINTS
findmnt -T /srv/website
findmnt -T /srv/ci
df -hT
df -i
stat -fc %T /sys/fs/cgroup
if [ -r /sys/fs/cgroup/cgroup.controllers ]; then
cat /sys/fs/cgroup/cgroup.controllers
fi
iostat -xz 1
iostat 默认首份报告通常是开机以来的累计平均值,分析构建过程时应关注后续间隔采样。其他终端可以同步观察:
vmstat 1
pidstat -dru -p ALL 1
如果内核支持 PSI,还可以读取:
cat /proc/pressure/cpu
cat /proc/pressure/memory
cat /proc/pressure/io
全局 PSI 能说明整机压力;需要归因时,应进一步查看网站和构建所在 cgroup 的压力、io.stat、CPU 节流及内存事件。进程级 I/O 与设备级统计也不一定逐秒对应,尤其是缓冲写入场景。
测试日志至少记录构建开始、依赖处理、编译、测试、打包和结束时间。否则看到磁盘峰值后,很难确定究竟是哪一阶段造成干扰。
一组参考结果如何支持判断
下面是用于解释验收方法的模拟结果。各组维持约 200 请求/秒的相同网站负载,执行相同构建,并保持内存条件一致:

| 测试组 | 网站 P95 | 网站 P99 | 错误率 | 单次构建耗时 |
|---|---|---|---|---|
| A:无构建 | 82 ms | 135 ms | 0.03% | — |
| B:直接共机 | 171 ms | 420 ms | 0.28% | 300 秒 |
| C:限制构建 CPU | 136 ms | 310 ms | 0.16% | 345 秒 |
| D:在 C 基础上限制 I/O | 89 ms | 153 ms | 0.04% | 390 秒 |
这组数据首先说明,仅限制 CPU 并未达到网站目标。C 组虽然比 B 组有所改善,但 P99 和错误率仍超标。
D 组的 P95 相对基线上升约 8.5%,P99 上升约 13.3%,均落在前文设定的预算内;构建耗时由 300 秒增加到 390 秒,上涨 30%,但仍低于 420 秒的交付上限。如果这些结果可以重复,D 组可以作为当前负载下的合格配置候选。
不过,要证明改善确实与 I/O 控制相关,还需要看到对应机制。例如:
- C 组打包阶段磁盘队列扩大,网站 P99 同步上升。
- D 组同阶段构建写入峰值下降,设备等待和网站尾延迟一起改善。
- D 组没有新增内存回收、CPU 节流或网络拥塞问题。
- 构建结束后,网站延迟能够回到基线范围。
若网站延迟改善了,但磁盘指标没有变化,CPU、缓存或后台任务也同时发生变化,就不能直接宣称“I/O 隔离验证成功”。
平均达标之外,还要看最差窗口
把 15 分钟请求混合计算,可能掩盖其中 20 秒的严重卡顿。建议同时观察全程分位数和 10~30 秒窗口内的延迟、错误及积压情况。低流量窗口样本不足时,不宜过度解释单个 P99 数值。
还应区分两种结果:
- 网站稳定,构建变慢但仍达标: 隔离实现了预期取舍。
- 网站稳定,构建大量超时或排队: 网站受到了保护,但共机容量仍不足。
完成 D 组后,需要继续测试构建并发从 1 增加到 2 的情况。单任务合格不能自动推导出双任务合格,特别是多个构建同时进入解压、测试数据库启动或归档阶段时。
五、决策边界:什么时候继续共机,什么时候需要拆分
同盘共机适合“可控竞争”,不适合承诺无干扰
如果构建频率有限、单任务可限制、网站工作集能稳定留在内存中,而且高峰测试仍有延迟余量,香港 EPYC 4464P+960GB NVMe 可以承载网站与持续集成共机运行。此时应优先控制构建并发,再设置 CPU、内存和 I/O 边界,而不是让多个任务同时抢占资源。
以下情况则更倾向于分离构建资源:
- 网站数据库对同步写延迟敏感,限速后 P99 仍明显波动。
- 为保护网站,构建耗时已超过交付窗口。
- 多人集中提交导致构建队列长期增长。
- 站点业务高峰与构建高峰无法错开。
- 同盘容量、持续写入或设备故障影响范围已不可接受。
增加独立物理磁盘可以减少设备级竞争,但网站与构建仍共享 CPU、内存和主机故障域。独立构建机能进一步分离资源,却仍需注意制品传输和部署解压:即便构建移走,在网站主机上展开大型制品,也可能再次形成 I/O 峰值。
A5数据提供香港AMD EPYC物理服务器,涵盖4464P等平台,并有NVMe存储及不同内存容量的配置,为网站服务、数据库与持续集成任务提供计算和存储资源基础。围绕共机运行与独立构建节点两类部署方式,香港不同档位的服务器可承载业务服务、编译打包和制品处理;CN2与国际带宽方案则为网站访问、构建依赖下载及制品传输提供网络资源选择。
用复测条件确定容量,而不是依赖一次跑分
容量验收应逐步提高网站到达率,并在每一档重复较重的构建任务。所有条件均满足的最高测试档位,只代表已验证边界,不宜直接作为长期运行目标;需要为业务波动、备份和后台维护保留余量。
构建侧还可以用一个简单关系判断队列风险:
可用构建槽位数应大于平均任务到达率乘以平均构建时长,并为突发提交留出余量。
例如,平均每小时到达 6 个任务,平均每个任务运行 6.5 分钟,一个槽位的平均忙碌比例为:
6 × 6.5 ÷ 60=65%。
这不代表突发提交不会排队。多个任务同时到达时,仍需等待;如果运行时间波动很大,也不能只用平均值判断交付体验。
磁盘容量则应按“系统和网站数据+日志与增长量+构建工作区+缓存和制品+安全余量”核算。可以把剩余空间低于约 20% 设为复核触发点,但它不是所有 SSD 通用的性能保证线,也不能把剩余空间除以单任务占用量,直接当成允许的并发数。
当网站高峰流量增加、构建并发调整、项目依赖显著增长、内核或文件系统变化、NVMe 更换,或磁盘占用进入新的区间时,都应重新执行对照测试。对 A5IDC 香港服务器的这类共机方案,值得保留的验收记录不是一张吞吐截图,而是明确的流量档位、构建版本、资源边界,以及对应的网站尾延迟和构建完成时间。这样才能判断当前隔离是否有效,也能在下一次扩容前知道余量还剩多少。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/3089.html



