在台湾服务器上使用OpenResty,动态接口的缓存边界该如何设置?

发布人:A5数据发布时间:2026-11-12 09:22阅读量:41

在台湾服务器上使用 OpenResty,动态接口的缓存边界不应按“是否动态”简单划分,而应同时看响应是否可以被多个请求共享、数据允许陈旧多久、请求是否携带用户权限,以及数据更新后能否及时失效。公开的只读接口即使由实时数据库生成,也可能适合做短时缓存;账户余额、订单状态和带用户身份的接口,即使访问量很大,也不应直接进入共享缓存。

通常可以采用这样的判断:公共 GET 接口优先考虑 OpenResty 的响应缓存,稳定对象使用对象级缓存,带筛选条件的列表使用经过规范化的查询缓存,公共页面或静态资源再考虑 CDN 边缘缓存。带登录态、授权信息或写入动作的接口则绕过共享缓存。台湾服务器主要影响源站距离、回源路径和边缘节点布局,并不会改变缓存安全边界。

先划定动态接口的缓存边界

“动态”不等于“不可缓存”

接口是否动态,描述的是内容生成方式;是否适合缓存,描述的是响应能否安全复用。这是两个不同维度。

例如:

  • /api/news/latest 每次都从数据库读取最新文章,属于动态生成,但如果允许 10 秒延迟,就可以缓存 10 秒。
  • /api/products/123 返回公共商品信息,虽然库存和价格会变化,但可以把商品详情作为对象缓存,并单独设置较短 TTL。
  • /api/me/profile 根据登录用户返回内容,响应不能在不同用户之间共享。
  • /api/orders/10001 即便接口响应结构稳定,也涉及权限判断,不能只按 URL 做公共缓存。
  • POST /api/order 会产生写入,不应使用响应缓存。

因此,缓存判断至少需要回答四个问题:

  1. 不同用户请求该 URL 时,响应是否允许相同?
  2. 响应最多可以陈旧多久?
  3. 数据更新后,旧响应是否必须立即消失?
  4. 请求中的哪些参数、请求头或 Cookie 会改变响应?

只要其中一个问题没有明确答案,就不应直接配置共享缓存。

先划定动态接口的缓存边界/“动态”不等于“不可缓存”配图

页面、对象、查询和边缘缓存的选择

不同缓存层级适合解决不同问题。将所有缓存都放到 OpenResty,或者看到访问量大就启用 CDN,都可能导致缓存范围过宽。

内容类型更适合的缓存层级典型缓存时间主要失效方式关键边界
公共 HTML 页面OpenResty 或 CDN10 秒至数分钟TTL、页面版本、受控刷新页面不能包含用户私有数据
带哈希文件名的 JS、CSS、图片浏览器和 CDN数小时至一年修改文件名文件内容必须不可变
公共对象,如商品、文章详情OpenResty,必要时叠加 CDN10 至 120 秒对象 ID 失效、版本号、TTL响应不应依赖登录用户
公共列表或搜索结果OpenResty 或应用层查询缓存5 至 30 秒TTL、数据变更事件、查询版本参数必须完整进入缓存键
用户资料、购物车、订单应用层私有缓存或不缓存视业务而定用户或对象级失效不进入公共响应缓存
余额、库存锁定、权限判断通常不做共享响应缓存0 秒或极短业务事务完成后立即更新不能用旧值做关键决策
写入接口,如 POST、PUT、DELETE不使用响应缓存0 秒由写入逻辑更新数据可触发相关读缓存失效

这里的“对象缓存”可以是 OpenResty 对某个 HTTP 响应的缓存,也可以是应用使用 Redis 等组件保存的对象。两者边界不同:OpenResty 缓存的是最终响应,应用层缓存保存的可能是结构化数据,还能在权限判断之后再组装响应。

“查询缓存”也需要单独理解。/api/search?keyword=a&page=1 的响应缓存属于 HTTP 层查询结果缓存;数据库查询计划或 SQL 结果缓存则属于应用和数据库层。前者必须处理 URL、请求头和 Cookie,后者还要处理数据版本、事务一致性和序列化成本,不能混为一谈。

OpenResty 响应缓存是怎样工作的

请求进入缓存前,先计算缓存键

一个共享缓存请求大致经过以下过程:

  1. OpenResty 根据协议、主机、路径和查询字符串计算缓存键。
  2. 如果缓存中存在未过期的对象,直接返回响应,不访问后端应用。
  3. 如果没有命中,则请求后端。
  4. 后端响应满足缓存条件时,OpenResty 将响应写入缓存。
  5. 后续相同缓存键的请求在 TTL 内复用该响应。

缓存键决定了“哪些请求被视为相同请求”。常见键至少要包含:

  • 协议或端口,避免 HTTP 与 HTTPS 混用;
  • 主机名,避免多个站点共享同一份响应;
  • 路径;
  • 查询参数;
  • 会影响响应内容的语言、版本或设备维度。

如果接口根据 Accept-Language 返回不同语言,却只使用路径作为缓存键,就可能把中文响应返回给英文请求。接口根据租户请求头返回数据时,也不能只按 URL 缓存。更稳妥的做法是明确列出允许影响响应的维度,并将它们加入键,无法穷举时则关闭共享缓存。

查询参数还存在顺序问题。下面两个 URL 在业务上可能等价:

/api/list?page=1&sort=price
/api/list?sort=price&page=1

如果直接使用原始 $request_uri,它们通常会形成两个缓存对象。可以在应用层统一参数顺序,也可以在 OpenResty 中用 Lua 对允许的参数进行白名单化和规范化,但不能简单删除所有参数。删除筛选条件、分页参数或排序参数,会把不同结果错误地合并。

OpenResty 响应缓存是怎样工作的/请求进入缓存前,先计算缓存键配图

TTL 只解决“多久过期”,不解决“数据是否安全”

TTL 是时间边界,不是权限边界。把 TTL 设置为 1 秒,不能让用户私有响应变成安全的公共响应;把 TTL 设置为 1 小时,也不代表公共数据一定不能缓存。

常见的失效方式有四种:

  • 时间失效:到达 TTL 后重新从后端获取,适合更新频率高但允许短暂陈旧的数据。
  • 版本失效:把内容版本加入路径或缓存键,例如文章发布后切换到新版本,适合静态化页面和不可变资源。
  • 对象失效:更新商品、文章或分类后,只清理对应对象,而不是清空整个缓存。
  • 事件失效:写入成功后向缓存层发送失效通知,适合必须快速反映变化的业务,但需要处理消息丢失和多层缓存不同步。

如果没有可靠的失效机制,优先使用较短 TTL,不要通过无限延长缓存时间来降低后端压力。短 TTL 带来的回源开销,通常比错误展示权限数据或旧业务状态的风险更容易控制。

一个适合公共只读接口的 OpenResty 配置示例

下面配置以 /api/catalog 为例,只缓存不带授权信息和会话 Cookie 的 GET、HEAD 请求。它是用于说明边界的最小示例,实际使用时应将后端地址、缓存目录、域名和 Cookie 名称替换为真实值。

worker_processes auto;

events {
    worker_connections 1024;
}

http {
    proxy_cache_path /var/cache/openresty/api
        levels=1:2
        keys_zone=api_cache:20m
        max_size=2g
        inactive=10m
        use_temp_path=off;

    map $request_method $skip_cache_method {
        default 1;
        GET     0;
        HEAD    0;
    }

    map $http_authorization $skip_cache_auth {
        default 1;
        ""      0;
    }

    map $cookie_sessionid $skip_cache_session {
        default 1;
        ""      0;
    }

    upstream app_backend {
        server 127.0.0.1:8080;
    }

    log_format cache_log
        '$remote_addr $request '
        'status=$status request_time=$request_time '
        'cache=$upstream_cache_status '
        'upstream_time=$upstream_response_time';

    access_log /var/log/openresty/access.log cache_log;

    server {
        listen 80;
        server_name api.example.test;

        location = /api/catalog {
            proxy_pass http://app_backend;

            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;

            proxy_cache api_cache;
            proxy_cache_methods GET HEAD;

            # 不把请求方法放入键中,使 HEAD 可以复用 GET 的缓存对象
            proxy_cache_key "$scheme|$host|$request_uri";

            proxy_cache_bypass
                $skip_cache_method
                $skip_cache_auth
                $skip_cache_session;

            proxy_no_cache
                $skip_cache_method
                $skip_cache_auth
                $skip_cache_session
                $upstream_http_set_cookie;

            proxy_cache_valid 200 30s;
            proxy_cache_valid 404 5s;

            proxy_cache_lock on;
            proxy_cache_lock_timeout 5s;

            proxy_cache_background_update on;
            proxy_cache_use_stale
                updating
                error
                timeout
                http_500
                http_502
                http_503
                http_504;

            add_header X-Cache-Status $upstream_cache_status always;
        }
    }
}

这个示例有几个重要限制:

  • sessionid 只是示例 Cookie 名称,实际系统可能使用其他名称,应按认证实现调整。
  • 不应通过 proxy_ignore_headers 强行忽略后端的 Set-Cookie、Cache-Control: private 或 no-store。
  • /api/catalog 必须确实是公共数据。如果同一路径根据租户、语言或请求头返回不同内容,应先拆分缓存键,或者关闭该位置的共享缓存。
  • X-Cache-Status 适合测试和监控,公开生产接口时可以删除或限制暴露。
  • 缓存目录需要由 OpenResty 工作进程正常读写,磁盘空间和 inode 也应纳入监控。

配置中的 proxy_cache_lock 用于减少缓存击穿:同一缓存键未命中时,尽量只让一个请求回源,其他请求等待缓存填充。proxy_cache_background_update 与 proxy_cache_use_stale updating 可以在满足业务条件时降低更新瞬间的等待,但它们可能让客户端继续看到旧响应,因此只适用于公共、可接受短暂陈旧的接口。

影响缓存边界的几个因素

权限、Cookie 和响应头优先于命中率

共享缓存最危险的错误不是 MISS,而是把一个用户的响应返回给另一个用户。以下情况通常应该绕过公共响应缓存:

  • 请求携带 Authorization;
  • 请求带有登录会话 Cookie;
  • 后端响应包含 Set-Cookie;
  • 响应带有 Cache-Control: private 或 no-store;
  • 响应内容包含账户信息、地址、订单、余额或权限结果;
  • 同一 URL 根据租户或用户角色生成不同内容。

不要只依赖某个默认行为判断安全性。应用、OpenResty 和边缘缓存应共同明确规则,尤其要检查框架是否会在某些异常、刷新或登录场景下追加 Cookie。

写入接口与读取接口必须分开处理

一个常见错误是把 /api/product/123 的 GET 缓存配置好,却没有设计商品更新后的失效策略。更新接口完成后,旧对象可能继续存活到 TTL 结束。

可以按业务重要程度选择:

  • 价格和描述允许延迟几十秒:使用短 TTL;
  • 发布状态必须较快生效:更新成功后让对象版本变化;
  • 内容管理系统要求立即刷新:使用经过鉴权的对象级失效机制;
  • 库存、余额和可用额度参与交易判断:交易链路直接读取可靠数据,不使用共享旧响应。

失效操作必须与写入结果绑定。写入失败时不要清理新数据对应的缓存版本;写入成功但失效通知失败时,需要有重试或较短 TTL 兜底。

查询参数越多,缓存对象越容易碎片化

搜索、筛选和分页接口常见的问题不是完全不能缓存,而是缓存键数量过多。例如关键词大小写、无意义的追踪参数、默认分页值不同,都可能产生大量只访问一次的缓存对象。

可以做以下处理:

  • 只把真正影响结果的参数纳入键;
  • 对排序字段、分页大小、语言代码设置白名单;
  • 统一默认值和参数顺序;
  • 对异常长查询、模糊查询或组合条件过多的请求绕过缓存;
  • 不把用户输入的授权信息、签名或隐私字段直接写入可观测的缓存键。

如果一个查询的参数空间几乎无限,且每个结果只被访问一次,OpenResty 响应缓存的收益可能低于应用层缓存或数据库优化。

台湾源站与边缘缓存是两层不同的缓存

台湾服务器作为源站时,OpenResty 缓存发生在源站入口。若前面还有 CDN,通常会形成:

客户端 → CDN 边缘缓存 → 台湾源站 OpenResty → 应用服务 → 数据库

这几层的职责不同:

  • CDN 适合公共页面、静态资源和不涉及权限的公共 API;
  • 台湾源站 OpenResty 适合降低应用和数据库压力;
  • 应用层缓存适合在权限判断之后复用结构化对象;
  • 私有接口通常只在用户侧或应用内部按用户隔离。

外层缓存可能在源站数据已经更新后继续返回旧内容。因此,不能只清理台湾服务器上的 OpenResty 缓存,就认为所有客户端已经得到新数据。如果业务要求快速生效,应同时考虑 CDN 失效、浏览器 Cache-Control、OpenResty TTL 和应用对象缓存的生命周期。

影响缓存边界的几个因素/台湾源站与边缘缓存是两层不同的缓存配图

如果访问者主要集中在台湾及邻近网络,源站短时响应缓存可能已经足够;如果访问者分布在多个地区,公共内容可以增加边缘缓存以减少跨区域回源。这个选择属于网络拓扑和成本权衡,不应改变登录态、授权和敏感数据的缓存禁区。

台湾服务器作为 OpenResty 缓存源站时,计算资源、存储和网络线路共同构成动态接口服务的运行基础。A5idc数据在中国台湾台北提供物理服务器方案,并覆盖香港、日本、韩国、新加坡、美国等地区,适配不同访问区域的部署需求;各地区产品配置和线路选择不同,可为接口应用、数据库及缓存服务提供相应的硬件与网络资源。

缓存容量与命中率也会改变实际效果

缓存命中率高,不代表缓存策略正确;命中率低,也不一定代表配置失败。需要同时看:

  • 命中对象是否真的可共享;
  • MISS 是否集中发生在过期瞬间;
  • 缓存对象平均大小;
  • 磁盘空间和 inode 是否足够;
  • 是否有大量一次性查询占满缓存;
  • 回源请求是否因失效集中产生峰值。

例如某公共列表接口稳定收到每秒 120 个请求,经过参数规范化后命中率约为 85%,则平均回源请求量可按以下方式估算:

回源请求量 = 总请求量 × (1 - 命中率)
           = 120 × (1 - 0.85)
           = 18 请求/秒

这只是容量估算,不代表真实监控结果。若所有对象在同一秒过期,短时回源量仍可能远高于 18 请求/秒,因此需要使用锁、错峰 TTL 或版本化发布降低集中失效。

用请求和日志验证缓存是否越界

先检查配置和响应状态

在变更配置前,应先确认当前实际使用的二进制和配置文件,避免把系统服务名、配置路径或 OpenResty 安装位置当成固定值:

command -v openresty || command -v nginx
openresty -t -c /etc/openresty/nginx.conf

如果环境中的可执行文件不是 openresty,应使用上一条命令返回的路径进行语法检查。生产变更前还应保留当前配置文件,避免新配置导致服务无法加载。

对公共测试接口连续请求两次:

curl -sS -D - -o /dev/null \
  'http://api.example.test/api/catalog?page=1'

curl -sS -D - -o /dev/null \
  'http://api.example.test/api/catalog?page=1'

在示例配置中,第一次通常可能看到:

X-Cache-Status: MISS

第二次在 30 秒 TTL 内通常应看到:

X-Cache-Status: HIT

实际状态还可能出现 BYPASS、EXPIRED、STALE 或 UPDATING。判断时要结合响应状态码、Cache-Control、Set-Cookie 和后端日志,不能只看一个自定义响应头。

用测试矩阵确认“应该缓存”和“必须绕过”

至少应覆盖以下请求:

测试场景预期状态要验证的边界
未登录的公共 GET,连续请求两次第一次 MISS,随后 HIT基础缓存是否生效
携带 Authorization 的 GETBYPASS 或不产生缓存权限请求是否隔离
携带会话 Cookie 的 GETBYPASS用户响应是否进入公共缓存
POST、PUT、DELETE不读取或写入公共缓存写入接口是否被错误缓存
不同分页、排序和筛选参数分别得到正确响应查询参数是否进入缓存键
参数顺序不同但语义相同规范化后可复用,或明确产生两个键查询键是否规范
后端返回 Set-Cookie不应写入共享缓存会话响应是否被保护
数据更新后再次读取按约定看到新版本或短暂旧版本失效策略是否符合业务要求
上游返回 500 或超时不应缓存错误响应故障响应是否污染缓存

带写入动作的测试应在测试环境或专用测试数据上执行,避免用生产订单、库存或账户数据验证失效逻辑。

如果接口支持语言、租户或设备差异,还应分别带上这些请求头进行测试。例如,先请求中文,再请求英文,检查响应内容和缓存状态是否相互污染。不能因为两次请求都返回 HIT,就认为策略成功;命中错误内容同样是缓存故障。

从日志判断回源压力和失效行为

示例中的日志会记录 cache=$upstream_cache_status、请求耗时和上游耗时,可以按状态统计:

grep 'cache=' /var/log/openresty/access.log | tail -n 50

重点观察:

  • HIT 是否集中在公共读接口;
  • BYPASS 是否主要来自登录态和写请求;
  • MISS 是否在 TTL 到期时集中出现;
  • STALE 是否在上游异常期间持续增加;
  • MISS 请求的上游耗时是否明显高于 HIT;
  • 404、500 等状态是否被错误缓存。

验证缓存命中率时,应按接口、状态码、是否带认证和查询类型拆分统计。把所有路径的 HIT 合并成一个数字,可能掩盖某个敏感接口被错误缓存,或者某个查询接口产生了大量无效缓存对象。

适用限制与上线判断

OpenResty 的共享响应缓存适合解决“相同公共请求被重复计算”的问题,不适合替代权限系统、事务一致性和数据库写入控制。以下场景应保持谨慎:

  • 余额、库存、优惠资格、权限和风控结果不能依赖过期共享响应;
  • 用户、租户和角色不同的响应不能共用一个未区分的缓存键;
  • 需要立即生效的内容不能只依靠长 TTL;
  • 参数空间很大的搜索接口不应无条件缓存;
  • 上游错误响应不能因为 proxy_cache_use_stale 配置而被长期保存;
  • CDN、浏览器、OpenResty 和应用缓存的 TTL 不能各自设置而不做失效协调;
  • 缓存目录、内存元数据和磁盘空间需要单独监控;
  • 任何用于失效的管理接口都必须有鉴权、审计和范围限制,不能让普通请求触发全量清理。

最终可以用三条线判断一个动态接口是否适合进入 OpenResty 缓存:

  1. 共享线:不同用户、租户和权限请求能否安全共享同一响应?
  2. 时效线:业务允许的陈旧时间是否大于零,并且有明确的 TTL 或失效事件?
  3. 验证线:能否通过缓存头、日志、参数组合、认证请求和数据更新测试证明它没有越界?

三条线都满足时,可以从较短 TTL、只缓存 200 响应、明确白名单参数开始,再根据回源压力和命中情况调整。只要共享性或权限边界无法证明,就应让请求绕过公共缓存,即使这样会增加台湾源站和后端应用的访问量。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/8895.html

相关推荐