香港服务器抗压能力不足,如何区分带宽、CPU与并发瓶颈?

发布人:A5数据发布时间:2026-11-12 11:27阅读量:48

访问量一上来,页面就变慢,随后出现超时,但图片还能打开;或者接口响应正常,大文件下载却明显降速。这两种“抗压能力不足”不能用同一种升级方案处理:前者应追查请求处理与排队,后者应优先核对传输链路。

根据全文核心主题形成自然、专业、克制的技术文章主题场景

区分香港服务器的带宽、CPU与并发瓶颈,关键不是寻找某个“占用率过高”的数字,而是确认:请求在哪一段变慢,该段是否出现资源饱和或排队,以及这些变化能否解释用户受到的影响。带宽限制传输速率,CPU限制计算处理能力,连接数与工作线程等限制则影响同时接纳和处理请求的能力,三者不能互相替代。(docs.kernel.org)

先确认症状:谁变慢,什么请求变慢

排查前,先记录故障时段、受影响地区、请求类型、请求量、错误率及响应时间。不要把“网站慢”作为唯一描述,可以将问题缩小为:“晚间某地区用户访问搜索接口时,P95响应时间上升,但静态资源基本正常。”

建议保留三组对照:

  • 地域对照:香港本地与主要用户所在地,是否同时变慢。
  • 业务对照:静态文件、动态接口、数据库查询型接口,是否同时受影响。
  • 负载对照:低峰与高峰,同一接口的吞吐量、耗时和错误率有什么变化。

这些对照用于选择排查分支,不直接代表结论。例如,只有某地区访问慢,应先调查该地区的访问路径,但仍需排除CDN缓存、解析结果和请求内容不同带来的干扰。

客户端可以用一次轻量请求观察耗时分布。以下示例需替换为自有业务中允许探测的只读地址,不代表已经完成检查:

curl -sS -o /dev/null --connect-timeout 5 --max-time 15 \
  -w 'code=%{http_code} dns=%{time_namelookup} connect=%{time_connect} tls=%{time_appconnect} first_byte=%{time_starttransfer} total=%{time_total}\n' \
  'https://www.example.com/health'

这些时间单位为秒,且是从请求开始累计的时间点,不能直接相加。连接与TLS阶段正常、首字节明显延后,才应继续查服务端处理或等待;首字节正常而总耗时增加,则应重点检查响应体大小和传输过程。首字节时间包含前置网络耗时,不能直接当作应用执行时间。(curl.se)

建立原因树:把“并发不够”拆成可验证的分支

“并发”可能指TCP连接数、正在处理的HTTP请求数、应用工作线程数,也可能指数据库连接池占用。先明确对象,再谈上限。

下面这张表用于确定下一步检查位置。每一行都是候选原因,必须通过同一时段的指标与日志交叉验证,而不是看到一种现象就直接定性。

原因分支需要观察的证据下一步
网络与带宽对应方向流量接近限额,传输速率出现平台对照服务商端口监控、实际出口流量及用户侧下载表现
CPU部分或全部核心持续繁忙,计算任务出现排队定位进程、线程与热点调用
内存可用内存持续下降,回收或换页伴随延迟检查进程增长、内存限制及内存压力
磁盘读写延迟、队列长度随请求耗时一起上升定位具体设备与读写进程
服务接入连接限制报错、监听队列或工作队列积压核对连接、文件描述符和工作进程限制
应用与数据库线程等待、连接池等待、慢查询或锁等待沿请求链路追查具体等待点

还要区分“并发增加导致变慢”和“变慢导致并发增加”。在统计范围一致、系统相对稳定的条件下:

平均在途请求数 ≈ 每秒请求数 × 平均响应时间(秒)。

例如,200次请求/秒、平均响应时间0.1秒,对应约20个在途请求;若仍能维持同样吞吐量,平均耗时变成0.5秒,在途请求就会增加到约100个。因此,连接数上涨未必是流量暴增,也可能是下游处理变慢的结果。

逐层排除:让每个分支都有证据和下一步

以下命令面向Linux环境。sar、mpstat和iostat属于sysstat工具集,使用前可通过command -v确认是否已安装;缺少工具时应按实际发行版的软件管理规范处理,不必为了排障盲目安装组件。

网络分支:区分出口跑满与访问路径变差

先观察网络吞吐和TCP重传,再核对网卡错误、丢弃计数:

sar -n DEV,ETCP 1 5
ip -s link

sar提供采样期间的网络统计,ip -s link中的字节、错误和丢弃通常是累计计数,应比较两次采样的增量,不能把一个历史累计值当成本次故障证据。不同接口也不能直接相加,否则可能重复计算同一份流量。(github.com)

判断带宽瓶颈,需要同时核对限速位置、流量方向和实际业务流量。下载主要消耗服务器出站,上传主要消耗入站;若服务商采用双向合计限速或共享带宽,应按对应规则判断。网卡显示的链路速率,也不能代替业务套餐中的带宽上限。

以100 Mbps出站上限为例,按十进制换算,理论字节速率为:

100 ÷ 8 = 12.5 MB/s。

若每次响应体平均200 kB,50次请求/秒,仅响应体就需要约10 MB/s,即80 Mbps,尚未计入协议开销和重传。这能解释为什么CPU不忙,下载业务仍可能接近出口容量。

如果流量持续接近已确认的限额,吞吐量不再增长,而传输时间继续增加,可优先沿带宽分支验证;若出口仍有余量,只有部分地区连接耗时或重传恶化,则应转向访问路径调查。对香港服务器,应分别比较香港本地、主要用户地区及不同运营商的相同请求,不能把地域标签当成链路质量结论。

针对带宽、算力与并发资源需要分别承载的业务,A5idc数据提供香港物理服务器及美国、日本、韩国、中国台湾、新加坡、马来西亚等地区的部署资源。香港方案覆盖Xeon Gold、AMD EPYC平台,并提供SSD或NVMe存储及CN2、国际带宽选择,可为企业网站、接口服务、数据库和多任务处理提供相应的CPU、内存、磁盘与网络组合;多地区线路资源也便于按访问人群与业务路径组织部署。

CPU分支:总使用率不高,也可能存在单核瓶颈

mpstat -P ALL 1 5
sar -q 1 5

先看每个逻辑CPU,再看运行队列。若一台8核服务器只有一个核心持续繁忙,总体平均使用率仍可能不高;此时应检查热点线程、串行代码或任务分配,而不是仅凭总使用率排除CPU瓶颈。(man7.org)

需要继续区分CPU时间花在哪里:用户态计算偏高,应追查应用热点;内核态或软中断偏高,应结合连接建立、网络包处理等活动分析。虚拟机的%steal持续升高,则应结合平台监控调查调度等待,但不能仅据此认定宿主机资源争抢。(man7.org)

Load Average高不等于CPU算力不足。Linux负载还涉及不可中断等待任务;iowait也不是“CPU用于处理磁盘的比例”,更不能单独证明磁盘已经饱和。应把CPU执行、运行队列和I/O等待分别检查。(kernel.org)

内存分支:关注可用量和停顿,而不是只看“已用”

free -m

这里的容量单位为MiB。判断内存紧张,应优先观察available及其趋势,而不是看到free很小就扩容:Linux会利用内存进行缓存,available用于估计无需换页即可供新应用使用的内存。(man7.org)

更有价值的证据组合是:可用内存持续减少、进程内存增长、活跃换页或回收增加,同时请求延迟上升。若系统提供PSI,可进一步查看/proc/pressure/memory,判断任务是否因内存资源等待而停顿;文件不存在时,先核验内核支持与启用状态。

若业务运行在容器中,还应单独核对容器限制,不能用宿主机整体余量替代工作负载自身的资源边界。

磁盘分支:吞吐不高,不代表没有I/O瓶颈

iostat -xz -y 1 5

该命令跳过开机以来的首份累计报告。重点对照读写延迟、队列长度、IOPS和吞吐量:r_await、w_await包含排队与服务时间,aqu-sz反映平均队列长度。小块随机读写即使MB/s不高,也需要结合延迟判断。(github.com)

如果磁盘等待先增加,随后数据库查询与接口耗时同步增加,应继续定位具体设备和读写进程,检查是否与备份、批处理或日志写入重合。不要只凭%util接近100%判定设备达到性能极限,尤其是能够并行处理请求的SSD和RAID设备。(github.com)

服务分支:连接数高,究竟是在工作还是等待

系统层可以先用ss -s查看连接概况,再用ss -lnt查看TCP监听套接字;这些信息用于发现连接与队列异常,不能直接换算成业务并发容量。

以Nginx为例,worker_connections限制的是单个工作进程可打开的连接数,包含与上游服务的连接,不只是客户端连接;实际连接能力还受文件描述符限制约束。因此,不能把“工作进程数×该参数”直接写成网站可承受的并发请求数。

如果已有受控访问的状态页,还要区分连接状态。Waiting代表等待新请求的空闲客户端连接,并不等于后端业务排队。真正需要追查的是限制报错、应用工作队列、线程池等待与请求超时是否同时出现。(nginx.org)

应用与数据库分支:硬件有余量,为什么请求仍然排队

若已有Nginx耗时日志,可对照$request_time与$upstream_response_time。前者覆盖客户端请求处理过程,后者反映接收上游响应的耗时,不能把二者简单等同为“总耗时”和“代码耗时”。

判断时可沿两条线继续:

  • 总请求耗时增加、上游耗时基本正常:追查客户端上传、响应发送及传输路径,不急于认定应用变慢。
  • 上游耗时同步增加:进入应用链路,分别测量线程排队、数据库连接获取、SQL执行及外部调用时间。

对于数据库,慢查询、连接池耗尽和锁等待必须分开。连接池满可能是配置容量不足,也可能是SQL变慢、长事务或连接未及时归还造成的结果。MySQL 8.4可通过Performance Schema中的data_lock_waits查看阻塞关系,通过metadata_locks调查元数据锁等待;其他版本应核验对应诊断方式。(dev.mysql.com)

在下游处理能力没有改善前,直接扩大线程池或连接池,可能只是允许更多请求进入等待。涉及配置、索引或事务逻辑调整时,应先保存原配置、准备必要的数据备份,在受控环境验证,并明确恢复版本或配置的回滚路径。(sre.google)

定位根因:用因果链,而不是用最后一个告警命名故障

下面是一组用于演示判断的场景数据,并非实际监控结果:

观察项示例状态
已确认的出站上限与峰值流量100 Mbps,上行约20 Mbps
CPU总体约35%,各核心无持续满载
内存与磁盘相比正常时段无明显压力变化
业务表现静态资源正常,订单接口P95显著升高
应用连接池30个连接持续占满,获取连接等待增加
数据库某热点记录出现长时间锁等待

这组证据不支持优先扩带宽,也不足以认定CPU不足。更值得验证的因果链是:

事务持锁时间增加 → SQL等待 → 数据库连接占用变长 → 应用连接池排队 → 接口超时。

下一步应沿同一请求的时间线,确认锁等待是否先于连接池排队发生,并在测试环境或受控窗口验证:缩短相关事务后,在相近负载下,锁等待、连接获取耗时与接口延迟是否一起下降。只有变化符合预期,才能加强“数据库锁竞争是根因”的判断。

恢复验收与复发监控点

恢复不能只看CPU下降或页面重新打开。建议使用相同接口比例、响应体大小、缓存条件和访问地区,逐级增加请求压力,同时记录实际发出的请求量、成功吞吐、P95/P99、错误率与队列长度。压测仅针对自有或获授权的环境,并预设停止条件;出现业务错误或延迟失控时,应停止加压,避免测试本身扩大故障。(sre.google)

验收时,至少确认三件事:原故障症状没有复现;原先异常的等待或饱和指标得到改善;压力没有转移到另一个资源或下游服务。仅靠增加超时时间把错误变成更长等待,不属于处理能力恢复。

复发监控应同时覆盖业务结果和对应瓶颈:

  • 网络:分方向吞吐、限额占用、重传,以及主要用户地区的访问耗时。
  • CPU:逐核使用率、运行队列、热点进程和虚拟机调度等待。
  • 内存与磁盘:可用内存、资源压力、读写延迟和设备队列。
  • 服务与应用:连接限制报错、工作队列、线程池及连接池获取耗时。
  • 数据库与业务:慢查询、锁等待、外部调用耗时,以及接口成功率和尾部延迟。

这些监控点应与前述排查指标保持一致,并按业务基线设置持续时间和告警阈值,而不是给所有服务器统一套用一个占用率门槛。再次出现问题时,优先寻找哪个指标先偏离正常状态、哪段等待随后增长,才能把扩容或优化落在真正限制请求处理的位置。(github.com)

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/9011.html

相关推荐