应用发布期间,如何配置Nginx缓存锁以控制新旧连接的并发回源?

发布人:A5数据发布时间:2026-11-17 09:25阅读量:3

缓存命中率上升,并不意味着应用发布时回源一定只有一条请求。一个常见误解是:开启 proxy_cache_lock 后,Nginx 会把同一时刻的所有请求排成队列,并保证整个集群只连接一个应用实例。实际情况更有限:它针对同一个缓存键协调缓存填充;锁等待超时、锁持有时间过长、缓存键不同或请求落到不同 Nginx 实例,都可能让多个请求并发回源。

因此,发布期间要分别处理两件事:用缓存锁减少相同内容的重复回源;用缓存键和发布路由规则隔离不兼容的新旧内容。缓存锁可以控制并发,但不能替代版本管理,也不会关闭旧连接或把它们迁移到新应用。

缓存锁管什么,不管什么

Nginx 的 proxy_cache_lock 以 proxy_cache_key 生成的键为协调单位。对一个尚未缓存的键,通常由一个请求先向上游取回响应并尝试写入缓存;其他相同键的请求等待。缓存填充完成后,等待请求可读取缓存,而不必各自再发起一次正常回源。

这里的“同一个请求”不是指 URL 看起来相似,而是指缓存键相同。键中是否包含主机、协议、路径和查询参数,都会影响哪些请求能共享缓存。响应里的 Vary 等信息也可能区分缓存变体。若请求实际对应不同用户、语言、压缩格式或应用版本,却被错误地放进同一个缓存键,问题就不是锁能解决的,而是缓存隔离不正确。

缓存锁也不是连接锁。它不负责限制 Nginx 与上游之间的连接总数,不会管理 TCP keepalive,也不保证只连接某一台应用服务器。应用发布后,旧 worker 可能继续处理尚未结束的请求,新的 worker 则使用新配置接收请求;锁只在请求竞争同一缓存键时发挥作用。通常,同一 Nginx 实例中共享同一个 keys_zone 的 worker 可以协作,但多个 Nginx 实例各自维护的共享内存区并不因此成为一个跨主机的分布式锁。

缓存锁管什么,不管什么配图

冷缓存时,请求如何竞争回源

假设一个公共页面的缓存刚过期,或者一个新版本资源对应的缓存键从未出现。此时,多个用户同时请求相同内容:

冷缓存时,请求如何竞争回源配图

  1. 第一个取得填充机会的请求向上游发起请求。
  2. 其他相同缓存键的请求等待响应写入缓存。
  3. 若填充在等待时限内完成,等待请求可以读取缓存。
  4. 若等待时间超过 proxy_cache_lock_timeout,等待请求会自行回源;它的响应不会作为该缓存键的填充结果写入缓存。
  5. 若持锁请求超过 proxy_cache_lock_age 仍未完成,Nginx 可以再放行一个请求向上游取内容。因此,锁不是无期限、严格单飞的保证。

后两种情况是有意设置的退路:如果一个上游请求卡住,其他请求不应永远停等。但它们也说明,参数太短时,缓存锁会让位给响应时间或回源可用性。比如上游平时需要约 300 毫秒生成页面,却把等待超时设为 100 毫秒,那么并发请求很可能在原请求完成前自行回源,合并效果会变弱。

这两个参数作用不同:

参数控制内容过短的可能影响过长的可能影响
proxy_cache_lock_timeout等待请求最多等多久,超时后自行回源等待者提前回源,增加并发客户端等待时间增加
proxy_cache_lock_age持锁填充迟迟未完成时,多久后允许另一个请求回源慢请求期间可能出现额外填充上游异常时,等待者可能更久才有机会回源

lock_timeout 的超时请求不会替代正常的缓存填充;lock_age 则是给长时间未完成的填充增加另一条回源通道。它们都不是严格的连接数量上限。

发布窗口里,新旧版本如何互相影响

滚动发布时,新旧应用可能同时接收请求。如果一个缓存键在旧版本期间被填充,而新版本上线后仍使用同一个键,Nginx 可能继续返回旧响应,直到缓存过期或被重新验证。反过来,如果缓存恰好在切换期间失效,负责填充的请求可能被负载均衡到旧实例或新实例;填充结果取决于实际处理该请求的上游。

可以用一个页面举例:旧版本输出字段 title,新版本将其改为 heading。若两个版本的响应使用同一个缓存键,缓存中的旧页面可能被新版本客户端读取,或新页面被仍使用旧资源的客户端读取。即使缓存锁成功将十个并发回源合并成一个,这个版本不匹配仍然存在。

发布窗口里,新旧版本如何互相影响配图

发布期通常需要先判断内容是否允许跨版本复用:

  • 带内容哈希的静态资源:文件名随内容变化,例如 app.a1b2c3.js。新旧资源使用不同 URL,自然形成不同缓存键;应确保旧页面引用的资源在发布后仍可访问一段时间。
  • HTML 或模板:常采用较短缓存时间、按需重新验证,或在切换完成后再更新缓存策略。若新旧应用输出不兼容,不宜让两种响应共用一个仍有效的缓存键。
  • 用户态页面或个性化 API:必须确认缓存键和响应缓存策略能正确区分身份、权限及其他内容维度。不能把用户相关响应仅靠缓存锁保护后直接共享。
  • 多版本并行路由:若请求在到达 Nginx 缓存之前,Nginx 并不知道请求最终会被负载均衡到哪个应用版本,就不能只凭缓存锁判断响应应属于哪个版本。应先让路由或缓存键具备可识别的版本边界,或避免缓存这类响应。

部署时可以通过版本化 URL 区分静态内容;对其他内容,则可在发布方案中明确缓存键、路由版本和失效策略之间的关系。仅清空缓存并不能消除切换瞬间的新旧上游并行问题,反而可能制造一批同时回源的冷缓存请求。

A5idc数据提供香港、美国、日本等多个地区的物理服务器租用,涵盖Xeon Gold与AMD EPYC平台,并有SSD或NVMe存储及不同网络线路方案,可为网站、业务后台、数据库和接口服务提供部署资源。面向发布期间的缓存回源场景,这些区域与硬件、网络配置选择可用于承载应用上游服务及其数据处理需求,支持按业务区域和负载规划源站环境。

一份面向公共内容的配置示例

下面的配置适用于经过确认可共享缓存的公共路径。缓存时长、锁等待时间和容量均为示例值,应根据实际响应时间、客户端等待预算及磁盘空间调整。

http {
    proxy_cache_path /var/cache/nginx/app
        levels=1:2
        keys_zone=app_cache:100m
        max_size=10g
        inactive=30m;

    upstream app_pool {
        server 127.0.0.1:8080;
        keepalive 64;
    }

    server {
        listen 80;
        server_name example.com;

        location /public/ {
            proxy_pass http://app_pool;

            proxy_http_version 1.1;
            proxy_set_header Connection "";
            proxy_set_header Host $host;

            proxy_cache app_cache;
            proxy_cache_key "$scheme$proxy_host$request_uri";
            proxy_cache_methods GET HEAD;

            proxy_cache_lock on;
            proxy_cache_lock_age 8s;
            proxy_cache_lock_timeout 4s;

            proxy_cache_background_update on;
            proxy_cache_use_stale updating error timeout
                                 http_500 http_502 http_503 http_504;
            proxy_cache_revalidate on;
            proxy_cache_valid 200 10m;

            add_header X-Cache-Status $upstream_cache_status always;
        }
    }
}

proxy_cache_path 创建缓存目录并定义共享内存区;keys_zone 的大小影响缓存键等元数据可容纳的规模,不等于磁盘缓存容量。max_size 约束磁盘缓存规模,inactive 表示一段时间未访问的缓存项目可被清理。部署前应确认缓存目录所在文件系统有足够空间,并由 Nginx 运行账户读写。

示例中的 proxy_cache_key 使用协议、上游主机名和完整请求 URI。它适合公共内容的演示,不应照搬到所有业务:如果响应还取决于租户、语言、编码或其他请求头,就要确认这些差异已由缓存变体或键正确区分。查询参数也可能把缓存拆成大量不同键;如果业务允许忽略某些参数,应先确认它们确实不会改变响应,再设计规范化规则。

proxy_cache_valid 200 10m 提供状态码和时长的缓存规则,但响应本身仍受上游缓存控制头及相关 Nginx 行为影响。不要为追求命中率随意忽略 Cache-Control、Set-Cookie 等响应头;这可能使本应私有或不可缓存的内容进入共享缓存。对带身份信息的请求,应明确配置绕过缓存和禁止写入缓存的条件,而不是假定缓存锁会隔离用户数据。

proxy_cache_background_update on 与 proxy_cache_use_stale ... updating 配合时,过期内容可在后台更新期间继续提供给请求。这样能减少等待,但意味着更新尚未完成时用户可能读到旧内容。若发布要求用户立即看到新版本,必须评估这项取舍,不能只看回源数量。proxy_cache_revalidate on 则允许在条件满足时使用上游验证机制更新缓存;它不会让不兼容的新旧响应自动变得兼容。

keepalive 配置影响 Nginx 与上游的连接复用,与 proxy_cache_lock 的锁定范围不同:前者减少重复建连的成本,后者减少相同缓存键的重复填充。二者可以同时配置,但不能把 keepalive 连接数当作并发回源请求数的上限。

配置语法和指令可用性与 Nginx 版本及编译模块有关。上线前应先检查版本、模块和完整配置,再执行语法校验:

nginx -v
nginx -V 2>&1
nginx -t

若环境中的版本不支持示例里的某项指令,应按该版本的文档调整,而不是直接忽略校验错误。

如何选择两个锁参数

先测量目标路径的上游响应时间,特别关注高分位延迟,而不只看平均值。若正常缓存填充大多在 1 秒内完成,可以先在测试环境设置略高于常见填充时间的 lock_timeout,并将 lock_age 设为能容忍的较长等待上限。具体值还应受客户端超时、上游超时和发布期间允许的回源量约束。

判断时可以依次回答三个问题:

  1. 等待者最多能等多久? 这决定 lock_timeout 的上限。设得更长有助于减少重复回源,但慢上游可能拖长用户请求时间。
  2. 持锁请求异常变慢时,何时允许额外回源? 这决定 lock_age 的取舍。过早放行可能增加上游并发;过迟放行则可能延长等待。
  3. 超时后是否有可接受的旧内容? 若允许返回尚未过期或正在更新的缓存,可以评估 proxy_cache_use_stale;若不能返回旧内容,就要把等待时限和上游容量一起评估。

例如,上游正常填充约需 0.5 至 1 秒,客户端可接受数秒等待,测试时可从 lock_timeout 4s、lock_age 8s 这类示例值开始观察。它们不是通用推荐值:如果上游尾延迟达到十几秒,或客户端自身只允许 2 秒响应,原样采用就可能产生等待过长或额外回源。还应检查上游超时配置,避免锁等待远长于实际可用的上游请求时间。

用并发请求验证锁是否生效

验证应在测试环境或可控的只读路径上进行。最好选择一个响应可缓存、上游会记录请求次数的接口,并让上游响应时间足以观察并发请求是否合并。不要对有写入副作用的接口执行并发探测,也不要为了测试直接清空生产缓存;清理操作会影响其他访问者,并可能触发集中回源。

可以对同一个冷缓存键发起一组并发 GET 请求。每次测试使用新的查询参数值,确保这组请求彼此相同、但与此前测试使用的缓存键不同:

probe="lock_probe=$(date +%s)"
seq 1 20 | xargs -P20 -I{} \
  curl -sS -o /dev/null \
  -w '%{http_code} %{time_total}\n' \
  "http://example.com/public/cache-test?$probe"

该命令适合对可安全重复访问的测试地址使用。若业务把查询参数排除在缓存键之外,或对该路径不缓存,就不能靠更换参数得到新的冷缓存键;应先核实缓存键和缓存规则。

同时观察 Nginx 的 $upstream_cache_status、$upstream_addr、$upstream_response_time,并核对上游访问日志里的请求总数。需要测试的不是“二十个请求必定只有一条上游日志”,而是正常条件下,同一 Nginx 实例、同一个缓存键的并发请求是否明显减少了重复填充。

用并发请求验证锁是否生效配图

结果可按下面的方式解释:

  • 冷缓存时,上游请求数接近一次,后续请求等待后读取缓存,说明常规填充合并有效。
  • 上游请求明显多于一次,检查是否存在多个缓存键、多个 Nginx 实例、缓存绕过条件、不可缓存响应,或锁定时限先于响应完成。
  • 请求耗时在 lock_timeout 附近出现分布,同时对应请求也到达上游,可能说明等待者已超时并自行回源。
  • 过期内容更新期间出现旧响应和后台回源,需结合 UPDATING、STALE 等缓存状态及上游日志确认行为;状态值会受具体请求路径和 Nginx 版本影响,不能单独作为唯一证据。

$upstream_cache_status 可通过响应头临时暴露,方便测试;如果接口面向公网,验证结束后应移除诊断头,或限制其可见范围。要验证滚动发布行为,还应分别记录请求实际命中的应用版本,并检查同一缓存键是否可能由不同版本填充。仅凭 Nginx 显示缓存命中,无法证明响应版本与当前应用实例一致。

使用边界

proxy_cache_lock 适合减少同一缓存键在冷启动、缓存过期或突发访问时的重复填充。它不限制全站回源总量,也不能消除不同缓存键之间的并发;如果请求分散在多个 Nginx 实例上,每个实例仍可能各自发起填充。它同样不能保证某个键只由一个上游版本生成:发布期间的版本一致性需要由资源版本化、路由策略和缓存隔离共同保证。

因此,验证锁配置时至少同时看三类证据:缓存键是否正确、同一键的回源次数是否下降、缓存内容是否仍与当前发布版本兼容。前两项回答并发填充问题,最后一项决定这份缓存是否能安全地提供给正在运行的应用。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/9870.html

相关推荐