香港服务器性能测试应测哪些指标,如何区分资源与链路瓶颈
香港服务器的性能测试,不能只看“1Gbps端口”或CPU核心数。业务访问慢,可能是CPU排队、内存换页、磁盘等待,也可能是香港机房到访问者所在网络的链路抖动;同一台服务器在香港本地、内地不同运营商和海外地区的结果,也可能明显不同。测试的重点不是得到一个漂亮的单项数字,而是判断瓶颈位于服务器资源、应用处理链路,还是公网传输路径。
一套可用于产品评测的测试,应同时记录延迟、吞吐、并发、错误率、CPU、内存、磁盘I/O和网络接口状态,并把客户端位置、测试时间、数据规模、协议版本和负载方式固定下来。只有在相同口径下比较不同香港服务器,结果才足以支持选型和容量判断。
先明确测试目标与业务负载
性能测试前,应先回答服务器承担的是什么工作。网页、API、数据库、文件下载、实时通信和批处理,对指标的关注顺序并不相同。
| 业务类型 | 首要指标 | 需要重点观察的辅助指标 | 常见瓶颈 |
|---|---|---|---|
| 网站、管理后台 | HTTP响应时间、p95/p99、错误率 | CPU、内存、数据库查询时间 | CPU排队、数据库I/O、链路抖动 |
| API服务 | 单请求延迟、RPS、并发数 | 连接建立时间、线程池、网络重传 | 应用线程、连接池、CPU |
| 数据库服务 | 查询延迟、事务吞吐、锁等待 | 内存命中率、磁盘await、fsync等待 | 内存不足、磁盘I/O、锁竞争 |
| 文件下载 | 有效吞吐、持续传输速度 | 出口带宽、连接数、丢包率 | 端口上限、流量策略、跨区域链路 |
| 定时任务、转码、计算 | 任务完成时间、CPU利用率 | 内存、临时盘、并行度 | CPU核心数、频率、内存压力 |
例如,一个后台系统每分钟只有几十次请求,但单次查询需要读取大量数据,不能用“低并发”推断其资源需求很低。相反,静态文件下载可能CPU占用不高,却很快触及出口带宽或流量计费边界。
测试负载最好分为四类:
- 空载基线:服务器没有业务压力时,记录基础延迟、系统负载和网络状态。
- 正常负载:模拟日常请求量,观察稳定运行时的p50、p95和错误率。
- 逐步加压:逐级增加并发,找出延迟开始明显上升的拐点。
- 持续与突发负载:分别测试30分钟以上的稳定负载,以及短时间流量峰值,观察是否出现降频、内存回收、连接堆积或带宽限制。
测试请求应尽量使用与生产一致的页面、API参数、数据库数据量和响应大小。只访问一个很小的健康检查接口,通常只能说明网络和Web服务还能建立连接,不能代表真实业务性能。
指标含义:不要把网络延迟和应用延迟混为一谈
延迟要拆成多个阶段
网络层的ICMP Ping只能反映一类探测包的往返时间,不能直接等同于网页打开速度。HTTP或HTTPS请求至少可以拆成以下阶段:
- DNS解析时间;
- TCP连接建立时间;
- TLS握手时间;
- 等待服务器首字节的时间,即TTFB;
- 接收完整响应的时间。
其中,TTFB较高,可能与应用计算、数据库查询或服务器排队有关;完整响应时间明显高于TTFB,则可能是响应体较大、出口带宽不足或传输过程存在重传。
不要只看平均值。建议同时记录:
- p50:一半请求不超过该数值,代表典型体验;
- p95:95%的请求不超过该数值,反映大多数用户的尾部体验;
- p99:更极端的慢请求,适合发现偶发排队、I/O抖动和链路丢包。
例如,某API的平均延迟为80毫秒,但p99达到1.8秒,说明少数请求存在明显排队或异常等待。若只看平均值,容易误判服务器足够稳定。
吞吐要区分请求吞吐和网络吞吐
应用吞吐通常用RPS或QPS表示,文件传输则常用MB/s或Gbps。两者不能直接混用。
- RPS/QPS:每秒完成的请求数;
- 有效吞吐:业务实际收到的有效数据量;
- 接口带宽:网卡或服务商提供的链路速率;
- 流量包大小:按GB、TB计费时需要确认十进制或二进制口径。
例如,10GB十进制数据在200秒内传完,换算为带宽是:
10 × 8 × 1000 ÷ 200 = 400Mbps
这里的10GB先换成80Gb,再除以200秒得到0.4Gbps,即400Mbps。实际测试还会受到TCP、TLS、HTTP头部和重传开销影响,因此业务有效吞吐通常不会等于标称端口速率。
并发数决定排队方式,不等于处理能力
并发数是同时处于处理、等待或传输状态的请求数量。并发升高时,吞吐可能增加,但达到资源上限后,新增并发往往只会增加排队时间。
可以用一个简单关系估算稳定状态下的并发量:
并发数 ≈ 吞吐量 × 平均响应时间
例如,业务以200RPS运行,平均响应时间为250毫秒,则平均活跃请求约为:
200 × 0.25 = 50
如果并发提高到200,但RPS仍停留在200,响应时间上升到1秒,说明请求大部分时间在排队,而不是服务器真正完成了更多工作。
测试时应同时记录发起并发、实际活跃连接、完成RPS和排队时间。只记录压测工具设置的并发数,无法判断服务端是否已经拒绝、限流或积压。
资源指标:CPU、内存和I/O要联合观察
CPU不仅看百分比,还要看等待和争用
CPU总利用率高,可能是应用计算量大,也可能是系统调用、网络处理或虚拟化争用造成。建议至少区分:
- user:用户态程序消耗;
- system:内核和系统调用消耗;
- iowait:等待磁盘I/O的时间;
- steal:虚拟机等待宿主机调度的时间;
- load average:可运行或等待资源的任务数量。
如果CPU使用率持续接近满载,user占比高,且随着并发上升,p95延迟同步升高,通常更接近计算资源瓶颈。若CPU总使用率不高,但iowait较高,应先检查磁盘,而不是直接增加CPU。
在虚拟化服务器中,steal持续偏高,说明虚拟CPU没有及时获得宿主机调度。此时,即使业务进程自身的user使用率不高,也可能出现延迟抖动。steal的具体可接受程度取决于业务对尾延迟的要求,不能只看平均CPU。
内存不足往往先表现为尾延迟
内存指标不能只看“已用百分比”。Linux会利用空闲内存作为缓存,因此已用内存较高并不必然代表不足。更有价值的是:
- available内存;
- swap使用量及换入换出速度;
- major page fault;
- 内核内存回收;
- 是否出现OOM;
- 应用进程的堆、缓存和连接数增长。
如果并发上升后,available持续下降,swap活动增加,同时p99延迟拉长,说明内存压力已经影响业务。对于数据库或缓存服务,还要关注缓存命中率;单纯增加CPU,通常不能解决频繁换页问题。
磁盘I/O要看延迟、队列和利用率
磁盘性能至少包括:
- IOPS:每秒完成的I/O操作数;
- 吞吐:每秒读写的数据量;
- await:I/O请求从提交到完成的平均等待时间;
- aqu-sz或队列长度:等待处理的请求数量;
- util:设备繁忙时间比例;
- fsync或同步写入耗时。
数据库、日志和小文件场景更依赖随机I/O、低延迟和同步写能力;大文件顺序读取则更依赖持续吞吐。某块磁盘顺序读取速度很高,并不表示它适合大量小事务。
以下命令适用于常见Linux服务器。iostat由sysstat工具提供,运行前应确认系统已安装;这里只读取监控数据,不会修改业务配置。
vmstat 1 10
iostat -xz 1 10
ss -s
观察结果时,应该把应用慢请求的时间点与iostat、vmstat中的等待变化对齐。若慢请求出现时磁盘await和队列同步升高,且CPU的iowait增加,磁盘资源比网络链路更值得优先排查。
链路指标:香港节点必须按访问来源分别测试
香港服务器的机房位置并不能代表所有访问者拥有相同路径。应至少选择以下几类测试来源:
- 香港本地或同区域节点;
- 内地主要业务来源区域,并尽量覆盖不同运营商;
- 海外实际用户所在区域;
- 服务器自身访问上游服务时所使用的出口路径。
每个来源都要分别记录IPv4和IPv6结果,前提是业务确实同时提供两种协议。还要区分入站和出站方向:网站访问通常包含用户到服务器的请求,以及服务器返回用户的响应;服务器调用数据库、对象存储或其他API时,则是另一条出站链路。
网络测试至少关注以下指标:
| 指标 | 说明 | 结果用途 |
|---|---|---|
| RTT | 往返时延 | 判断基础路径延迟,不能替代HTTP延迟 |
| 丢包率 | 探测包或TCP数据包丢失比例 | 判断重传和连接稳定性 |
| 抖动 | 延迟随时间的变化 | 识别实时业务和尾延迟风险 |
| TCP连接时间 | 建立连接所需时间 | 判断连接建立和握手问题 |
| TTFB | 收到首字节所需时间 | 区分网络等待与应用处理 |
| 有效吞吐 | 实际传输速率 | 判断出口带宽、窗口和路径能力 |
| 重传率 | TCP重复发送数据的比例 | 识别丢包、拥塞或链路质量问题 |
可用业务域名或测试接口进行分阶段测量。下面是一个简化示例,结果应在空载、正常负载和加压状态下分别记录:
ping -c 20 example.com
curl -o /dev/null -sS \
-w 'dns=%{time_namelookup} connect=%{time_connect} tls=%{time_appconnect} ttfb=%{time_starttransfer} total=%{time_total}\n' \
https://example.com/health
mtr -rwzc 100 example.com
ping和mtr需要从实际访问端运行,不能只在香港服务器本机运行。若要测试纯带宽,可在双方均获授权的测试主机之间使用iperf3,并控制测试时长、并发流和数据量,避免占用生产链路:
iperf3 -c test-server.example.com -t 30 -P 4
带宽测试不能直接对不属于自己的主机执行,也不宜在生产高峰期进行。对业务而言,使用真实页面或接口产生的有效吞吐,往往比单纯的TCP峰值更有参考价值。
如何区分资源瓶颈与链路瓶颈
判断瓶颈时,重点是看多个指标是否在同一时间发生关联,而不是根据某个数字单独下结论。

| 现象组合 | 更可能的方向 | 进一步验证 |
|---|---|---|
| CPU user持续较高,load接近或超过CPU线程数,网络利用率不高 | CPU或应用计算瓶颈 | 降低并发后延迟是否恢复;查看慢接口的CPU消耗 |
| available内存下降,swap换入增加,p99明显上升 | 内存压力 | 暂停大缓存或降低并发,观察尾延迟和换页是否同步改善 |
| iowait、磁盘await、队列长度同时升高 | 磁盘I/O瓶颈 | 使用相同数据量测试本地盘读写和数据库事务 |
| 服务器CPU、内存、磁盘均有余量,但出口接近端口上限 | 出口带宽瓶颈 | 降低响应体或并发传输,观察带宽和延迟是否回落 |
| 只有某一访问区域延迟升高,其他来源正常 | 区域链路或运营商路径问题 | 从多个来源重复测试,并比较丢包、抖动和TCP重传 |
| Ping正常,但HTTPS的TTFB很高 | 应用、数据库或连接池问题 | 分开记录connect、TLS、TTFB和服务端处理时间 |
| 服务器指标正常,但TCP重传和p99同时增加 | 链路质量或拥塞 | 检查双向路径、出口队列和不同时间段的结果 |
一个典型的资源瓶颈示例是:并发从50提升到100后,CPU从55%升至96%,RPS增长不明显,p95从180毫秒上升到700毫秒,而出口带宽只使用了30%。此时增加端口带宽不能解决主要问题,应先检查应用线程、CPU核心数和高耗时请求。
另一个典型的链路瓶颈示例是:CPU维持在35%左右,内存和磁盘等待稳定,香港本地访问p95为80毫秒,但某一内地来源的下载吞吐达到出口约束后下降,TCP重传增加,p99超过1秒。此时服务器资源并未耗尽,继续增加CPU或内存的收益有限,应核对端口规格、出口方向、计费流量和实际访问路径。
还要注意“本机测试正常”并不能排除公网链路问题。服务器本地访问自身域名,可能绕过了真实用户的运营商路径;同机房测试也通常只说明局部网络状况。链路判断必须包含真实来源,且最好在不同时间重复。
测试采样与结果记录方式
为了让不同香港服务器具备可比性,测试记录至少应包含:
- CPU型号、核心数、虚拟化类型和是否共享资源;
- 内存容量、磁盘类型、文件系统和数据集大小;
- 操作系统及内核版本;
- Web服务器、运行时、数据库和应用版本;
- 客户端地区、运营商、IPv4或IPv6;
- 请求大小、响应大小、是否启用TLS和连接复用;
- 并发数、持续时间、预热时间和是否使用缓存;
- 测试开始时间、结束时间和服务器当时的业务负载;
- p50、p95、p99、RPS、错误率及资源监控数据。
每档并发不要只运行几十秒。短测容易受到缓存预热、JIT编译、连接建立和磁盘缓存影响。一个可执行的参考方案是:先预热5分钟,再运行每个并发档位5至10分钟;稳定负载至少持续30分钟;突发测试则记录峰值期间和恢复期间的指标。关键结果最好在不同时间段重复三次,重点比较p95、p99和错误率是否稳定。
测试结果可以采用如下格式保存:

| 并发 | RPS | p50 | p95 | p99 | 错误率 | CPU | 内存可用 | 磁盘await | 出口带宽 |
|---|---|---|---|---|---|---|---|---|---|
| 20 | 180 | 95ms | 160ms | 240ms | 0% | 42% | 6.8GB | 4ms | 120Mbps |
| 50 | 365 | 110ms | 230ms | 420ms | 0.1% | 68% | 6.1GB | 7ms | 250Mbps |
| 100 | 390 | 260ms | 820ms | 1.6s | 1.4% | 94% | 5.7GB | 9ms | 270Mbps |
上表是用于解释方法的示例数据,不代表某个香港服务器的实测结果。第三档并发中,RPS几乎没有继续增长,CPU接近饱和,p95和错误率却快速上升,这通常意味着已接近CPU或应用处理上限。若此时出口带宽仍有较大余量,优先增加带宽的效果可能不明显。
选择香港服务器时的决策边界
不同产品的比较,不能只按照标称CPU、内存和端口速率排序,应先匹配业务瓶颈。
A5数据提供中国香港物理服务器租用,覆盖入门建站、Xeon Gold与AMD EPYC等配置,并配备SSD或NVMe存储及不同内存规格,可承载网站、业务后台、数据库、接口服务和多任务计算。香港产品还提供CN2与国际带宽选择,能够结合访问来源、程序负载和网络需求,为性能测试中的资源与链路分析提供对应的服务器方案基础。
适合优先看CPU资源的场景
API计算、转码、编译、脚本处理和高频模板渲染,通常更关注单核性能、可用核心数、持续负载下的频率稳定性,以及虚拟化争用情况。测试时应记录单线程和多线程结果,不能只用多核跑分替代真实请求测试。
如果单核延迟是主要限制,增加核心数未必能改善单个请求;如果任务能够并行,则核心数和调度稳定性更重要。共享型CPU产品需要重点观察steal和长时间负载下的p95变化。
适合优先看内存和磁盘的场景
数据库、搜索、缓存和大量小文件业务,应把内存余量、缓存命中率、随机I/O延迟和同步写能力放在前面。容量判断不能只看当前平均内存使用,还要加入缓存增长、连接数增加和数据集扩张后的余量。
如果业务在高并发时出现磁盘await升高、iowait增加,而CPU仍有余量,选择更高规格磁盘或更适合随机I/O的产品,比单纯增加CPU更直接。
适合优先看链路和流量条件的场景
下载站、镜像分发、图片服务和大响应API,应重点核对:
- 端口是共享、峰值还是明确保障的速率;
- 速率限制适用于入站、出站还是双向;
- 流量按月、按方向或按超额计费;
- 峰值带宽能持续多久;
- 不同访问来源的丢包和抖动;
- 多连接下载时是否出现排队或限速。
例如,若单个文件为2GB十进制,计划在40秒内完成,理论有效吞吐约为:
2 × 8 × 1000 ÷ 40 = 400Mbps
实际还应为协议开销、并发连接和链路波动预留余量。不要因为端口标称为1Gbps,就按1Gbps的业务有效吞吐进行容量承诺。
交付验收应固定可复现条件
新服务器交付后,建议先做一次空载基线,再使用正式域名或等价测试域名执行验收。验收记录应包含测试来源、时间窗口、协议、并发、请求样本和完整监控数据。对于不同产品,分别核对与其实际适用的条件:
- CPU型产品:核心数、共享情况、长时间负载和steal;
- 内存型产品:可用内存、swap、缓存命中率;
- 存储型产品:容量、随机读写、await和持续写入;
- 带宽型产品:出口方向、峰值速率、流量口径和超额规则;
- 多线路访问场景:各来源的RTT、丢包、抖动和p95。
如果供应商只提供单一带宽数值,却没有说明测试方向、持续时间和共享条件,这个数值就不适合作为业务容量承诺。产品比较应以同一客户端、同一数据集和同一测试时长重新验证。
复测条件与容量判断方法
容量判断可以采用“目标负载加余量”的方式,而不是等到资源完全打满才扩容。先确定业务目标,例如p95不超过300毫秒、错误率低于0.5%、持续吞吐达到目标值;再逐步加压,找到满足目标的最大稳定并发和RPS。示例中,如果50并发时仍符合目标,而100并发已出现明显尾延迟和错误,则可把50并发对应的RPS作为当前稳定能力参考,再根据业务峰值、增长预期和突发时长设置余量。
复测时应在以下条件变化后重新进行:
- 更换香港机房、IP段或网络线路;
- 调整CPU、内存、磁盘或端口规格;
- 数据库数据量、缓存命中率或响应体积发生明显变化;
- 访问来源或主要运营商发生变化;
- 应用版本、连接池、TLS配置或缓存策略改变;
- 业务进入新的高峰时段或出现持续流量增长。
最终的判断标准应是:在真实访问来源和真实业务负载下,服务器资源仍有可解释的余量,链路的p95、丢包和吞吐满足目标,且连续复测结果没有明显恶化。这样得到的香港服务器性能结论,才不仅是一次压测中的峰值,而是能够用于产品选择、交付验收和后续扩容的容量依据。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/4813.html