香港服务器上的Nginx怎样按连接数与响应时间调优,避免盲目修改参数
香港服务器上的 Nginx 调优,不应从“把 worker_connections 调大”开始。连接数、请求吞吐和响应时间属于不同指标:连接数高,可能只是客户端保持了大量空闲长连接;响应时间高,也可能来自上游应用、磁盘、带宽或跨区域网络,而不是 Nginx 并发参数不足。
更稳妥的做法是先固定测试目标,再同时观察并发连接、请求量、延迟分位数、CPU、内存、I/O 和网络带宽,最后根据瓶颈选择参数。下面的参考数据均用于说明分析方法,不代表某台香港服务器的实测结果。
围绕Nginx连接承载、上游响应和静态资源访问等场景,A5idc数据提供中国香港物理服务器资源,覆盖Xeon Gold、AMD EPYC等处理器平台,并配备SSD或NVMe存储及不同内存规格,可用于企业网站、业务后台、数据库和接口服务部署。香港产品同时提供CN2与国际带宽方案,为不同访问来源下的网络连接、静态内容传输和多任务运行提供硬件与线路基础。
先确定测试目标,而不是先改参数
性能调优至少要回答三个问题:
- 当前业务需要承载多少请求速率。
- 在目标请求速率下,响应时间是否满足要求。
- 资源接近上限时,首先耗尽的是连接、CPU、内存、磁盘、带宽,还是上游服务能力。
例如,一个典型的香港电商站点可能同时包含以下请求:
| 请求类型 | 主要瓶颈 | 优先观察指标 |
|---|---|---|
| 商品图片、CSS、JavaScript | 磁盘、网络、缓存命中率 | 静态文件响应时间、带宽、I/O |
| 商品详情接口 | 应用程序、数据库、上游连接 | upstream_response_time、数据库等待 |
| 登录和支付接口 | 上游处理时间、超时策略 | p95、p99、5xx、超时数量 |
| 长连接或实时推送 | 连接数、文件描述符、内存 | Established 连接、连接持续时间 |
| 香港本地或周边访问 | TLS、带宽、Nginx 输出速度 | request_time、发送速率 |
| 远端用户访问 | 网络往返时延、丢包、跨区域链路 | 客户端分区域延迟、丢包率 |
如果只用首页一次访问的平均耗时作为依据,通常无法判断真正的瓶颈。首页可能命中缓存,接口可能访问数据库;同一台服务器也可能在静态资源请求很快时,接口 p99 已经明显升高。
建议先设定可验证的目标
可以把测试目标写成类似下面的形式:
- 峰值请求速率:400 RPS。
- 正常接口 p95:不超过 300 ms。
- p99:不超过 800 ms。
- 5xx 比例:低于业务允许范围。
- CPU 持续使用率:不长期超过 80%至85%。
- 磁盘 I/O 等待:不持续升高。
- 在目标并发下,Nginx 不出现
worker_connections are not enough或文件描述符不足。
这里的“并发”要明确指什么。HTTP 请求并发、TCP 连接数、上游连接数和客户端长连接数量并不相同。
指标含义:连接数高不等于请求处理能力不足
连接数与请求数要分开看
Nginx 的 worker_connections 表示单个 worker 可以处理的连接数量上限,而不是每秒可以处理的请求数量。连接可能处于以下状态:
- 正在处理请求;
- Keepalive 空闲等待下一次请求;
- 正在发送大响应;
- 正在等待上游应用;
- 长轮询或实时推送;
- 已建立但客户端读取缓慢。
如果配置了 4 个 worker 和 worker_connections 8192,理论连接上限约为 32768,但这只是配置层面的乘积,不等于实际可用容量。还要扣除文件描述符限制、监听 socket、日志文件、上游连接和其他资源。
反向代理场景还要注意连接的“双向占用”。一个客户端请求通常需要一个客户端连接和一个上游连接。即使 Nginx 能接受大量客户端连接,上游应用的连接池、数据库连接数或端口资源也可能先达到上限。
响应时间要拆分
建议在访问日志中记录以下字段:
log_format perf
'$remote_addr $request_method $uri $status '
'request_time=$request_time '
'upstream_connect_time=$upstream_connect_time '
'upstream_header_time=$upstream_header_time '
'upstream_response_time=$upstream_response_time '
'bytes_sent=$bytes_sent '
'connection=$connection '
'connection_requests=$connection_requests';
access_log /var/log/nginx/access.log perf;
这些字段的含义不同:
$request_time:Nginx 从接收请求到完成处理并记录日志的时间,可能包含等待上游、缓存、发送响应等阶段。$upstream_connect_time:连接上游服务所需的时间。$upstream_header_time:从连接上游到收到上游响应头的时间,常用于观察应用开始处理的速度。$upstream_response_time:上游响应处理时间,可能包含完整响应传输过程。$connection_requests:同一 TCP 连接上已经处理的请求数量,可用于观察 Keepalive 的实际效果。
如果 request_time 很高,但 upstream_response_time 很低,需要进一步检查客户端读取速度、响应体大小、带宽、TLS 或网络路径。如果两者都高,才更应该继续排查应用、数据库和上游连接。
平均延迟也不能代替 p95 和 p99。比如一组请求平均只有 100 ms,但少数请求因为数据库锁等待达到 5 秒,用户仍然会感受到明显卡顿。性能调优通常应同时查看平均值、p50、p95、p99 和错误率。
连接数的粗略估算
在请求处理时间相对稳定时,可以使用下面的近似关系估算“正在处理的请求”:
并发请求数 ≈ 每秒请求数 × 平均响应时间(秒)
例如:
- 400 RPS;
- 平均响应时间 0.25 秒;
则平均正在处理的请求约为:
400 × 0.25 = 100 个请求
这不是 TCP 连接总数。启用 Keepalive 后,连接总数可能远高于正在处理的请求数;HTTP/2 还可能在一条连接上复用多个请求。因此,不能看到 2000 个 Established 连接,就直接把 worker_connections 从 4096 提高到 65535。
影响变量:按瓶颈分别调整
1. Worker、文件描述符与连接上限
Linux 环境通常使用 epoll。可以先查看实际 Nginx 编译参数和配置路径:
nginx -V
nginx -T
ulimit -n
一个适合中等规模反向代理的示例片段如下:
worker_processes auto;
worker_rlimit_nofile 65535;
events {
use epoll;
worker_connections 8192;
}
这段配置只说明调优方向,不应直接套用到所有实例:
worker_processes auto通常让 Nginx 根据 CPU 数量启动 worker,但不代表业务一定需要更多 worker。worker_connections必须与系统文件描述符上限匹配。worker_rlimit_nofile不能替代 systemd、容器或宿主机的LimitNOFILE配置。- 连接数增加后,每条连接会消耗内存和内核资源,长连接很多时尤其明显。
- 如果 CPU 已经满载,单纯增加连接上限只会让排队连接更多。
判断连接上限是否真正成为瓶颈,可以结合以下信号:
- Nginx 错误日志出现连接数不足;
ss -s显示连接数量持续接近配置上限;- 文件描述符使用量接近进程限制;
- 请求在连接阶段失败,而不是上游响应慢;
- 提高上限后,错误率下降且 p95 没有明显恶化。
如果只是连接数增加,但请求量、延迟和错误率没有改善,说明瓶颈不在这个参数。
2. Keepalive 与连接复用
Keepalive 可以减少频繁建立 TCP 和 TLS 连接的成本,但时间设置过长会占用更多连接和内存。普通网页服务可以从较短的空闲时间开始观察,例如:
http {
keepalive_timeout 15s;
keepalive_requests 1000;
}
如果香港服务器面对大量短请求,Keepalive 过短可能增加握手次数;如果面对大量长期空闲客户端,Keepalive 过长则可能耗尽连接资源。应结合以下指标判断:
- 每条连接的
$connection_requests是否普遍大于 1; - TLS 握手次数是否过多;
- Established 连接是否明显高于活跃请求数;
- 内存是否随连接数增加;
- 客户端是否频繁出现连接重建。
反向代理到应用服务器时,还可以启用上游连接复用:
upstream app_backend {
server 127.0.0.1:8080;
keepalive 64;
}
server {
location /api/ {
proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_pass http://app_backend;
}
}
keepalive 64 不是所有 worker 总共只保留 64 条连接,具体还要结合 worker 数量和 Nginx 版本理解。上游连接池也不能无限增大,否则可能把压力转移到应用进程或数据库。
3. 上游响应与超时参数
常见的反向代理参数可以按业务响应时间设置,而不是盲目统一成很大的数值:
location /api/ {
proxy_connect_timeout 3s;
proxy_send_timeout 15s;
proxy_read_timeout 30s;
proxy_buffering on;
proxy_pass http://app_backend;
}
参数的作用不同:
proxy_connect_timeout:连接上游的时间。过大时,上游不可达会长期占用请求资源。proxy_send_timeout:向上游发送请求的超时时间。proxy_read_timeout:等待上游继续返回数据的间隔时间,不是整个接口生命周期的固定总时长。proxy_buffering:让 Nginx 先接收和缓冲上游响应,适合普通接口和页面;流式响应、长轮询要单独评估。
如果业务接口 p99 通常为 1.5 秒,可以在此基础上留出合理余量,而不是直接设置成 5 分钟。超时时间过短会产生 504,过长则会让异常上游占满连接。
流式输出或长轮询需要独立配置,例如关闭对应 location 的缓冲,并使用更长的读取超时。此时应单独统计这类连接,不能和普通页面请求混合计算容量。
4. 静态资源、缓存与压缩
静态资源的优化重点不是增加 worker,而是减少磁盘访问和重复传输。对于本地文件系统,可以参考:
http {
sendfile on;
tcp_nopush on;
tcp_nodelay on;
open_file_cache max=10000 inactive=30s;
open_file_cache_valid 60s;
open_file_cache_min_uses 2;
}
如果静态文件位于网络文件系统、某些容器存储层或特殊挂载目录,sendfile 和文件缓存的收益需要通过测试确认,不能直接假设一定变快。
带版本号的 CSS、JavaScript 和图片资源可以使用较长缓存时间:
location /assets/ {
expires 7d;
add_header Cache-Control "public, max-age=604800, immutable";
}
只有文件名或查询参数在内容变更时同步更新,immutable 才适合使用,否则客户端可能继续使用旧文件。
对于文本内容,可以启用适度压缩:
gzip on;
gzip_comp_level 4;
gzip_min_length 1024;
gzip_vary on;
gzip_types
text/plain
text/css
application/javascript
application/json
application/xml
image/svg+xml;
压缩等级越高,CPU 消耗通常越明显。JPEG、PNG、WebP、MP4、ZIP 等已经压缩过的内容,一般不应再次使用 gzip。若监控显示 CPU 已接近上限,而带宽尚有余量,可以降低压缩等级、减少压缩类型,或者优先通过缓存减少重复计算。
动态内容缓存必须先确认数据是否允许缓存。登录态、购物车、订单、个人信息等内容不能因为响应时间高就直接加公共缓存。只读且短时间内允许延迟更新的接口,才适合在明确缓存键、用户隔离和失效规则后使用 proxy_cache。
结果解释:用关联指标判断真正瓶颈
下面是一组用于说明方法的模拟对照数据。服务器假设为 4 vCPU、8 GB 内存,前端使用 Nginx,后端为本机应用服务。

| 项目 | 调整前 | 调整后 | 观察 |
|---|---|---|---|
| 峰值请求量 | 350 RPS | 350 RPS | 负载相同 |
| 活跃 TCP 连接 | 2100 | 2250 | Keepalive 连接略增 |
| p50 | 95 ms | 92 ms | 基本不变 |
| p95 | 480 ms | 310 ms | 尾延迟改善 |
upstream_response_time p95 | 390 ms | 235 ms | 上游等待明显减少 |
| CPU | 64% | 68% | 压缩和缓存处理增加少量 CPU |
| I/O 等待 | 11% | 4% | 静态文件缓存生效 |
| 5xx 比例 | 0.8% | 0.2% | 超时和上游排队减少 |
这类结果说明,改善可能来自静态资源缓存、上游连接复用或应用侧排队减少,而不能简单归因于“连接数调大”。
连接数高、响应时间正常
如果连接数较高,但 p95、p99 稳定,CPU、内存和文件描述符都有余量,连接数本身不一定是问题。此时可以关注:
- Keepalive 空闲时间是否过长;
- 是否存在大量长轮询;
- 客户端是否读取响应缓慢;
- HTTP/2 连接是否长时间保持;
- 连接是否主要来自静态资源或健康检查。
不要为了让监控上的连接数字变小,就盲目关闭 Keepalive。连接复用减少握手的收益,可能比减少几百条空闲连接更重要。
p95 高、上游响应时间也高
这通常指向应用、数据库、上游网络或上游连接池。应检查:
- 应用线程池或事件循环是否排队;
- 数据库连接池是否耗尽;
- 慢查询和锁等待是否增加;
- Nginx 到上游的连接建立是否变慢;
- 上游服务是否出现 CPU、内存或 I/O 饱和。
此时把 worker_connections 从 8192 增加到 65535,通常不能减少接口处理时间,反而可能让更多请求进入上游排队。
Nginx 请求时间高、上游响应时间低
如果上游只用了 50 ms,但 $request_time 达到 800 ms,可以优先查看:
- 响应体是否过大;
- 出口带宽是否接近上限;
- 客户端读取速度是否慢;
- gzip 是否消耗过多 CPU;
- TLS、网络丢包或远端访问路径是否异常;
- 是否因为缓冲区设置不合理而造成等待。
香港服务器的网络延迟不能只按机房位置判断。应按主要访问地区、运营商和协议版本分别测试。香港本地访问快,并不代表所有远端用户的 p95 都相同;上游服务如果位于其他地区,应用响应时间还会受到链路往返时延影响。
CPU 高、缓存命中率低
如果 CPU 长期超过 80%至85%,同时 gzip、TLS 或动态请求占用明显,优先考虑:
- 提高静态资源和可缓存页面的命中率;
- 降低 gzip 压缩等级;
- 减少重复序列化和重复计算;
- 将慢接口与静态资源分开观察;
- 检查是否存在高频健康检查或异常爬取请求。
增加 worker 可能让 CPU 更快达到饱和。只有在 CPU 仍有余量、单个 worker 明显繁忙且事件处理能力不足时,增加 worker 才有验证价值。
一次可控的调优流程
性能测试应只针对自有或获得授权的服务,并尽量使用独立测试接口或低风险业务数据。一个简单的基线测试可以这样执行:
curl -sS -o /dev/null \
-w 'dns=%{time_namelookup} connect=%{time_connect} tls=%{time_appconnect} start=%{time_starttransfer} total=%{time_total} bytes=%{size_download}\n' \
https://example.com/
在授权的压测环境中,可以使用固定请求比例逐步增加并发:
wrk -t4 -c200 -d60s --latency https://example.com/health
推荐按以下顺序操作:
- 记录当前配置、Nginx 版本、CPU、内存、带宽和上游服务状态。
- 先进行 30 秒左右预热,再进行固定时长测试,区分冷缓存和热缓存。
- 从较低并发开始逐级增加,例如 50、100、200、400,观察 p95、p99 和错误率的拐点。
- 每次只改变一个变量,例如只改 Keepalive,或只改缓存,不同时修改十项参数。
- 测试期间同步查看
ss -s、CPU、内存、I/O 等待、网络流量和 Nginx 错误日志。 - 使用
nginx -t检查配置后再平滑 reload。 - 保留一组未修改的基线数据,避免把自然波动误认为优化效果。
配置变更前可以保存备份:
sudo cp /etc/nginx/nginx.conf \
/etc/nginx/nginx.conf.bak.$(date +%F-%H%M)
sudo nginx -t
sudo systemctl reload nginx
如果调整后出现 502、504、静态文件异常或延迟上升,应先查看对应 location 的错误日志和上游状态。确认变更导致问题后,恢复备份并再次执行 nginx -t,然后 reload。平滑 reload 不会立即中断旧连接,长连接和流式请求可能继续使用旧 worker,因此回滚后的观察时间要覆盖这部分连接的生命周期。
参数调整的决策边界
可以用下面的关系作为快速判断依据:
| 现象 | 更可能的原因 | 优先动作 |
|---|---|---|
| 连接接近上限,出现连接数错误,CPU有余量 | worker 或文件描述符不足 | 核对 worker_connections、ulimit、systemd 限制 |
| 连接很多但请求量低,内存上涨 | 空闲 Keepalive、长轮询或慢客户端 | 缩短空闲时间,拆分长连接业务并单独计量 |
| p95 与上游响应时间同时升高 | 应用、数据库或上游连接池排队 | 检查应用线程、数据库和上游连接复用 |
| Nginx 总耗时高,上游耗时低 | 响应发送、带宽、TLS 或客户端读取慢 | 检查响应体、压缩、带宽和网络路径 |
| CPU高、带宽余量大、压缩比例高 | gzip 或动态处理消耗 CPU | 降低压缩等级,增加缓存,减少重复计算 |
| I/O 等待高,静态资源命中率低 | 磁盘读取或缓存不足 | 使用文件缓存、静态资源缓存并检查存储类型 |
| 504 增多但应用确实需要长时间处理 | 读取超时过短或上游变慢 | 按接口 p99 设置超时,并处理上游慢请求 |
| 提高连接上限后延迟更高 | 上游或 CPU 已饱和 | 回退连接上限,先解决真正的排队点 |
用复测结果判断容量,而不是看单个参数
一台香港服务器能承载多少请求,不能由 worker_connections 单独决定。可以采用“目标负载加安全余量”的判断方式:
- 先确定业务峰值 RPS 和请求类型比例。
- 在热缓存、冷缓存、短连接和长连接等条件下分别测试。
- 找到 p95 或错误率开始明显恶化的并发点。
- 记录该点的 CPU、内存、I/O、带宽、活跃连接和上游响应时间。
- 将稳定容量设在拐点之前,而不是把拐点当作日常运行目标。
- 当业务请求量、响应体大小、上游位置或访问地区发生变化时重新测试。
例如,某次测试在 400 RPS 时 p95 为 280 ms,CPU 72%,带宽使用率 55%,而到 600 RPS 时 p95 升至 900 ms、上游响应时间明显增加,此时合理容量判断应接近 400 RPS 以下,并为突发流量预留余量,而不是因为 worker_connections 还有空间就继续提高并发。
真正有价值的调优结果,应表现为:在相同请求模型和相同测试条件下,尾延迟下降、错误率降低,且 CPU、内存、I/O、带宽和上游服务没有被转移到新的危险边界。按连接数定位接入层瓶颈,按响应时间定位等待环节,再根据资源指标选择缓存、压缩、静态文件、上游复用或超时参数,才能避免修改参数后只是把问题推迟到另一个环节。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/6912.html



