香港服务器性能测试应测哪些指标,如何区分资源与链路瓶颈

发布人:A5数据发布时间:2026-10-20 14:21阅读量:90

香港服务器的性能测试,不能只看“1Gbps端口”或CPU核心数。业务访问慢,可能是CPU排队、内存换页、磁盘等待,也可能是香港机房到访问者所在网络的链路抖动;同一台服务器在香港本地、内地不同运营商和海外地区的结果,也可能明显不同。测试的重点不是得到一个漂亮的单项数字,而是判断瓶颈位于服务器资源、应用处理链路,还是公网传输路径。

一套可用于产品评测的测试,应同时记录延迟、吞吐、并发、错误率、CPU、内存、磁盘I/O和网络接口状态,并把客户端位置、测试时间、数据规模、协议版本和负载方式固定下来。只有在相同口径下比较不同香港服务器,结果才足以支持选型和容量判断。

先明确测试目标与业务负载

性能测试前,应先回答服务器承担的是什么工作。网页、API、数据库、文件下载、实时通信和批处理,对指标的关注顺序并不相同。

业务类型首要指标需要重点观察的辅助指标常见瓶颈
网站、管理后台HTTP响应时间、p95/p99、错误率CPU、内存、数据库查询时间CPU排队、数据库I/O、链路抖动
API服务单请求延迟、RPS、并发数连接建立时间、线程池、网络重传应用线程、连接池、CPU
数据库服务查询延迟、事务吞吐、锁等待内存命中率、磁盘await、fsync等待内存不足、磁盘I/O、锁竞争
文件下载有效吞吐、持续传输速度出口带宽、连接数、丢包率端口上限、流量策略、跨区域链路
定时任务、转码、计算任务完成时间、CPU利用率内存、临时盘、并行度CPU核心数、频率、内存压力

例如,一个后台系统每分钟只有几十次请求,但单次查询需要读取大量数据,不能用“低并发”推断其资源需求很低。相反,静态文件下载可能CPU占用不高,却很快触及出口带宽或流量计费边界。

测试负载最好分为四类:

  1. 空载基线:服务器没有业务压力时,记录基础延迟、系统负载和网络状态。
  2. 正常负载:模拟日常请求量,观察稳定运行时的p50、p95和错误率。
  3. 逐步加压:逐级增加并发,找出延迟开始明显上升的拐点。
  4. 持续与突发负载:分别测试30分钟以上的稳定负载,以及短时间流量峰值,观察是否出现降频、内存回收、连接堆积或带宽限制。

测试请求应尽量使用与生产一致的页面、API参数、数据库数据量和响应大小。只访问一个很小的健康检查接口,通常只能说明网络和Web服务还能建立连接,不能代表真实业务性能。

指标含义:不要把网络延迟和应用延迟混为一谈

延迟要拆成多个阶段

网络层的ICMP Ping只能反映一类探测包的往返时间,不能直接等同于网页打开速度。HTTP或HTTPS请求至少可以拆成以下阶段:

  • DNS解析时间;
  • TCP连接建立时间;
  • TLS握手时间;
  • 等待服务器首字节的时间,即TTFB;
  • 接收完整响应的时间。

其中,TTFB较高,可能与应用计算、数据库查询或服务器排队有关;完整响应时间明显高于TTFB,则可能是响应体较大、出口带宽不足或传输过程存在重传。

不要只看平均值。建议同时记录:

  • p50:一半请求不超过该数值,代表典型体验;
  • p95:95%的请求不超过该数值,反映大多数用户的尾部体验;
  • p99:更极端的慢请求,适合发现偶发排队、I/O抖动和链路丢包。

例如,某API的平均延迟为80毫秒,但p99达到1.8秒,说明少数请求存在明显排队或异常等待。若只看平均值,容易误判服务器足够稳定。

吞吐要区分请求吞吐和网络吞吐

应用吞吐通常用RPS或QPS表示,文件传输则常用MB/s或Gbps。两者不能直接混用。

  • RPS/QPS:每秒完成的请求数;
  • 有效吞吐:业务实际收到的有效数据量;
  • 接口带宽:网卡或服务商提供的链路速率;
  • 流量包大小:按GB、TB计费时需要确认十进制或二进制口径。

例如,10GB十进制数据在200秒内传完,换算为带宽是:

10 × 8 × 1000 ÷ 200 = 400Mbps

这里的10GB先换成80Gb,再除以200秒得到0.4Gbps,即400Mbps。实际测试还会受到TCP、TLS、HTTP头部和重传开销影响,因此业务有效吞吐通常不会等于标称端口速率。

并发数决定排队方式,不等于处理能力

并发数是同时处于处理、等待或传输状态的请求数量。并发升高时,吞吐可能增加,但达到资源上限后,新增并发往往只会增加排队时间。

可以用一个简单关系估算稳定状态下的并发量:

并发数 ≈ 吞吐量 × 平均响应时间

例如,业务以200RPS运行,平均响应时间为250毫秒,则平均活跃请求约为:

200 × 0.25 = 50

如果并发提高到200,但RPS仍停留在200,响应时间上升到1秒,说明请求大部分时间在排队,而不是服务器真正完成了更多工作。

测试时应同时记录发起并发、实际活跃连接、完成RPS和排队时间。只记录压测工具设置的并发数,无法判断服务端是否已经拒绝、限流或积压。

资源指标:CPU、内存和I/O要联合观察

CPU不仅看百分比,还要看等待和争用

CPU总利用率高,可能是应用计算量大,也可能是系统调用、网络处理或虚拟化争用造成。建议至少区分:

  • user:用户态程序消耗;
  • system:内核和系统调用消耗;
  • iowait:等待磁盘I/O的时间;
  • steal:虚拟机等待宿主机调度的时间;
  • load average:可运行或等待资源的任务数量。

如果CPU使用率持续接近满载,user占比高,且随着并发上升,p95延迟同步升高,通常更接近计算资源瓶颈。若CPU总使用率不高,但iowait较高,应先检查磁盘,而不是直接增加CPU。

在虚拟化服务器中,steal持续偏高,说明虚拟CPU没有及时获得宿主机调度。此时,即使业务进程自身的user使用率不高,也可能出现延迟抖动。steal的具体可接受程度取决于业务对尾延迟的要求,不能只看平均CPU。

内存不足往往先表现为尾延迟

内存指标不能只看“已用百分比”。Linux会利用空闲内存作为缓存,因此已用内存较高并不必然代表不足。更有价值的是:

  • available内存;
  • swap使用量及换入换出速度;
  • major page fault;
  • 内核内存回收;
  • 是否出现OOM;
  • 应用进程的堆、缓存和连接数增长。

如果并发上升后,available持续下降,swap活动增加,同时p99延迟拉长,说明内存压力已经影响业务。对于数据库或缓存服务,还要关注缓存命中率;单纯增加CPU,通常不能解决频繁换页问题。

磁盘I/O要看延迟、队列和利用率

磁盘性能至少包括:

  • IOPS:每秒完成的I/O操作数;
  • 吞吐:每秒读写的数据量;
  • await:I/O请求从提交到完成的平均等待时间;
  • aqu-sz或队列长度:等待处理的请求数量;
  • util:设备繁忙时间比例;
  • fsync或同步写入耗时。

数据库、日志和小文件场景更依赖随机I/O、低延迟和同步写能力;大文件顺序读取则更依赖持续吞吐。某块磁盘顺序读取速度很高,并不表示它适合大量小事务。

以下命令适用于常见Linux服务器。iostat由sysstat工具提供,运行前应确认系统已安装;这里只读取监控数据,不会修改业务配置。

vmstat 1 10
iostat -xz 1 10
ss -s

观察结果时,应该把应用慢请求的时间点与iostat、vmstat中的等待变化对齐。若慢请求出现时磁盘await和队列同步升高,且CPU的iowait增加,磁盘资源比网络链路更值得优先排查。

链路指标:香港节点必须按访问来源分别测试

香港服务器的机房位置并不能代表所有访问者拥有相同路径。应至少选择以下几类测试来源:

  • 香港本地或同区域节点;
  • 内地主要业务来源区域,并尽量覆盖不同运营商;
  • 海外实际用户所在区域;
  • 服务器自身访问上游服务时所使用的出口路径。

每个来源都要分别记录IPv4和IPv6结果,前提是业务确实同时提供两种协议。还要区分入站和出站方向:网站访问通常包含用户到服务器的请求,以及服务器返回用户的响应;服务器调用数据库、对象存储或其他API时,则是另一条出站链路。

网络测试至少关注以下指标:

指标说明结果用途
RTT往返时延判断基础路径延迟,不能替代HTTP延迟
丢包率探测包或TCP数据包丢失比例判断重传和连接稳定性
抖动延迟随时间的变化识别实时业务和尾延迟风险
TCP连接时间建立连接所需时间判断连接建立和握手问题
TTFB收到首字节所需时间区分网络等待与应用处理
有效吞吐实际传输速率判断出口带宽、窗口和路径能力
重传率TCP重复发送数据的比例识别丢包、拥塞或链路质量问题

可用业务域名或测试接口进行分阶段测量。下面是一个简化示例,结果应在空载、正常负载和加压状态下分别记录:

ping -c 20 example.com
curl -o /dev/null -sS \
  -w 'dns=%{time_namelookup} connect=%{time_connect} tls=%{time_appconnect} ttfb=%{time_starttransfer} total=%{time_total}\n' \
  https://example.com/health
mtr -rwzc 100 example.com

ping和mtr需要从实际访问端运行,不能只在香港服务器本机运行。若要测试纯带宽,可在双方均获授权的测试主机之间使用iperf3,并控制测试时长、并发流和数据量,避免占用生产链路:

iperf3 -c test-server.example.com -t 30 -P 4

带宽测试不能直接对不属于自己的主机执行,也不宜在生产高峰期进行。对业务而言,使用真实页面或接口产生的有效吞吐,往往比单纯的TCP峰值更有参考价值。

如何区分资源瓶颈与链路瓶颈

判断瓶颈时,重点是看多个指标是否在同一时间发生关联,而不是根据某个数字单独下结论。

如何区分资源瓶颈与链路瓶颈配图

现象组合更可能的方向进一步验证
CPU user持续较高,load接近或超过CPU线程数,网络利用率不高CPU或应用计算瓶颈降低并发后延迟是否恢复;查看慢接口的CPU消耗
available内存下降,swap换入增加,p99明显上升内存压力暂停大缓存或降低并发,观察尾延迟和换页是否同步改善
iowait、磁盘await、队列长度同时升高磁盘I/O瓶颈使用相同数据量测试本地盘读写和数据库事务
服务器CPU、内存、磁盘均有余量,但出口接近端口上限出口带宽瓶颈降低响应体或并发传输,观察带宽和延迟是否回落
只有某一访问区域延迟升高,其他来源正常区域链路或运营商路径问题从多个来源重复测试,并比较丢包、抖动和TCP重传
Ping正常,但HTTPS的TTFB很高应用、数据库或连接池问题分开记录connect、TLS、TTFB和服务端处理时间
服务器指标正常,但TCP重传和p99同时增加链路质量或拥塞检查双向路径、出口队列和不同时间段的结果

一个典型的资源瓶颈示例是:并发从50提升到100后,CPU从55%升至96%,RPS增长不明显,p95从180毫秒上升到700毫秒,而出口带宽只使用了30%。此时增加端口带宽不能解决主要问题,应先检查应用线程、CPU核心数和高耗时请求。

另一个典型的链路瓶颈示例是:CPU维持在35%左右,内存和磁盘等待稳定,香港本地访问p95为80毫秒,但某一内地来源的下载吞吐达到出口约束后下降,TCP重传增加,p99超过1秒。此时服务器资源并未耗尽,继续增加CPU或内存的收益有限,应核对端口规格、出口方向、计费流量和实际访问路径。

还要注意“本机测试正常”并不能排除公网链路问题。服务器本地访问自身域名,可能绕过了真实用户的运营商路径;同机房测试也通常只说明局部网络状况。链路判断必须包含真实来源,且最好在不同时间重复。

测试采样与结果记录方式

为了让不同香港服务器具备可比性,测试记录至少应包含:

  • CPU型号、核心数、虚拟化类型和是否共享资源;
  • 内存容量、磁盘类型、文件系统和数据集大小;
  • 操作系统及内核版本;
  • Web服务器、运行时、数据库和应用版本;
  • 客户端地区、运营商、IPv4或IPv6;
  • 请求大小、响应大小、是否启用TLS和连接复用;
  • 并发数、持续时间、预热时间和是否使用缓存;
  • 测试开始时间、结束时间和服务器当时的业务负载;
  • p50、p95、p99、RPS、错误率及资源监控数据。

每档并发不要只运行几十秒。短测容易受到缓存预热、JIT编译、连接建立和磁盘缓存影响。一个可执行的参考方案是:先预热5分钟,再运行每个并发档位5至10分钟;稳定负载至少持续30分钟;突发测试则记录峰值期间和恢复期间的指标。关键结果最好在不同时间段重复三次,重点比较p95、p99和错误率是否稳定。

测试结果可以采用如下格式保存:

测试采样与结果记录方式配图

并发RPSp50p95p99错误率CPU内存可用磁盘await出口带宽
2018095ms160ms240ms0%42%6.8GB4ms120Mbps
50365110ms230ms420ms0.1%68%6.1GB7ms250Mbps
100390260ms820ms1.6s1.4%94%5.7GB9ms270Mbps

上表是用于解释方法的示例数据,不代表某个香港服务器的实测结果。第三档并发中,RPS几乎没有继续增长,CPU接近饱和,p95和错误率却快速上升,这通常意味着已接近CPU或应用处理上限。若此时出口带宽仍有较大余量,优先增加带宽的效果可能不明显。

选择香港服务器时的决策边界

不同产品的比较,不能只按照标称CPU、内存和端口速率排序,应先匹配业务瓶颈。

A5数据提供中国香港物理服务器租用,覆盖入门建站、Xeon Gold与AMD EPYC等配置,并配备SSD或NVMe存储及不同内存规格,可承载网站、业务后台、数据库、接口服务和多任务计算。香港产品还提供CN2与国际带宽选择,能够结合访问来源、程序负载和网络需求,为性能测试中的资源与链路分析提供对应的服务器方案基础。

适合优先看CPU资源的场景

API计算、转码、编译、脚本处理和高频模板渲染,通常更关注单核性能、可用核心数、持续负载下的频率稳定性,以及虚拟化争用情况。测试时应记录单线程和多线程结果,不能只用多核跑分替代真实请求测试。

如果单核延迟是主要限制,增加核心数未必能改善单个请求;如果任务能够并行,则核心数和调度稳定性更重要。共享型CPU产品需要重点观察steal和长时间负载下的p95变化。

适合优先看内存和磁盘的场景

数据库、搜索、缓存和大量小文件业务,应把内存余量、缓存命中率、随机I/O延迟和同步写能力放在前面。容量判断不能只看当前平均内存使用,还要加入缓存增长、连接数增加和数据集扩张后的余量。

如果业务在高并发时出现磁盘await升高、iowait增加,而CPU仍有余量,选择更高规格磁盘或更适合随机I/O的产品,比单纯增加CPU更直接。

适合优先看链路和流量条件的场景

下载站、镜像分发、图片服务和大响应API,应重点核对:

  • 端口是共享、峰值还是明确保障的速率;
  • 速率限制适用于入站、出站还是双向;
  • 流量按月、按方向或按超额计费;
  • 峰值带宽能持续多久;
  • 不同访问来源的丢包和抖动;
  • 多连接下载时是否出现排队或限速。

例如,若单个文件为2GB十进制,计划在40秒内完成,理论有效吞吐约为:

2 × 8 × 1000 ÷ 40 = 400Mbps

实际还应为协议开销、并发连接和链路波动预留余量。不要因为端口标称为1Gbps,就按1Gbps的业务有效吞吐进行容量承诺。

交付验收应固定可复现条件

新服务器交付后,建议先做一次空载基线,再使用正式域名或等价测试域名执行验收。验收记录应包含测试来源、时间窗口、协议、并发、请求样本和完整监控数据。对于不同产品,分别核对与其实际适用的条件:

  • CPU型产品:核心数、共享情况、长时间负载和steal;
  • 内存型产品:可用内存、swap、缓存命中率;
  • 存储型产品:容量、随机读写、await和持续写入;
  • 带宽型产品:出口方向、峰值速率、流量口径和超额规则;
  • 多线路访问场景:各来源的RTT、丢包、抖动和p95。

如果供应商只提供单一带宽数值,却没有说明测试方向、持续时间和共享条件,这个数值就不适合作为业务容量承诺。产品比较应以同一客户端、同一数据集和同一测试时长重新验证。

复测条件与容量判断方法

容量判断可以采用“目标负载加余量”的方式,而不是等到资源完全打满才扩容。先确定业务目标,例如p95不超过300毫秒、错误率低于0.5%、持续吞吐达到目标值;再逐步加压,找到满足目标的最大稳定并发和RPS。示例中,如果50并发时仍符合目标,而100并发已出现明显尾延迟和错误,则可把50并发对应的RPS作为当前稳定能力参考,再根据业务峰值、增长预期和突发时长设置余量。

复测时应在以下条件变化后重新进行:

  • 更换香港机房、IP段或网络线路;
  • 调整CPU、内存、磁盘或端口规格;
  • 数据库数据量、缓存命中率或响应体积发生明显变化;
  • 访问来源或主要运营商发生变化;
  • 应用版本、连接池、TLS配置或缓存策略改变;
  • 业务进入新的高峰时段或出现持续流量增长。

最终的判断标准应是:在真实访问来源和真实业务负载下,服务器资源仍有可解释的余量,链路的p95、丢包和吞吐满足目标,且连续复测结果没有明显恶化。这样得到的香港服务器性能结论,才不仅是一次压测中的峰值,而是能够用于产品选择、交付验收和后续扩容的容量依据。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/4813.html