在台湾服务器上使用OpenResty,动态接口的缓存边界该如何设置?
在台湾服务器上使用 OpenResty,动态接口的缓存边界不应按“是否动态”简单划分,而应同时看响应是否可以被多个请求共享、数据允许陈旧多久、请求是否携带用户权限,以及数据更新后能否及时失效。公开的只读接口即使由实时数据库生成,也可能适合做短时缓存;账户余额、订单状态和带用户身份的接口,即使访问量很大,也不应直接进入共享缓存。
通常可以采用这样的判断:公共 GET 接口优先考虑 OpenResty 的响应缓存,稳定对象使用对象级缓存,带筛选条件的列表使用经过规范化的查询缓存,公共页面或静态资源再考虑 CDN 边缘缓存。带登录态、授权信息或写入动作的接口则绕过共享缓存。台湾服务器主要影响源站距离、回源路径和边缘节点布局,并不会改变缓存安全边界。
先划定动态接口的缓存边界
“动态”不等于“不可缓存”
接口是否动态,描述的是内容生成方式;是否适合缓存,描述的是响应能否安全复用。这是两个不同维度。
例如:
/api/news/latest每次都从数据库读取最新文章,属于动态生成,但如果允许 10 秒延迟,就可以缓存 10 秒。/api/products/123返回公共商品信息,虽然库存和价格会变化,但可以把商品详情作为对象缓存,并单独设置较短 TTL。/api/me/profile根据登录用户返回内容,响应不能在不同用户之间共享。/api/orders/10001即便接口响应结构稳定,也涉及权限判断,不能只按 URL 做公共缓存。POST /api/order会产生写入,不应使用响应缓存。
因此,缓存判断至少需要回答四个问题:
- 不同用户请求该 URL 时,响应是否允许相同?
- 响应最多可以陈旧多久?
- 数据更新后,旧响应是否必须立即消失?
- 请求中的哪些参数、请求头或 Cookie 会改变响应?
只要其中一个问题没有明确答案,就不应直接配置共享缓存。

页面、对象、查询和边缘缓存的选择
不同缓存层级适合解决不同问题。将所有缓存都放到 OpenResty,或者看到访问量大就启用 CDN,都可能导致缓存范围过宽。
| 内容类型 | 更适合的缓存层级 | 典型缓存时间 | 主要失效方式 | 关键边界 |
|---|---|---|---|---|
| 公共 HTML 页面 | OpenResty 或 CDN | 10 秒至数分钟 | TTL、页面版本、受控刷新 | 页面不能包含用户私有数据 |
| 带哈希文件名的 JS、CSS、图片 | 浏览器和 CDN | 数小时至一年 | 修改文件名 | 文件内容必须不可变 |
| 公共对象,如商品、文章详情 | OpenResty,必要时叠加 CDN | 10 至 120 秒 | 对象 ID 失效、版本号、TTL | 响应不应依赖登录用户 |
| 公共列表或搜索结果 | OpenResty 或应用层查询缓存 | 5 至 30 秒 | TTL、数据变更事件、查询版本 | 参数必须完整进入缓存键 |
| 用户资料、购物车、订单 | 应用层私有缓存或不缓存 | 视业务而定 | 用户或对象级失效 | 不进入公共响应缓存 |
| 余额、库存锁定、权限判断 | 通常不做共享响应缓存 | 0 秒或极短 | 业务事务完成后立即更新 | 不能用旧值做关键决策 |
| 写入接口,如 POST、PUT、DELETE | 不使用响应缓存 | 0 秒 | 由写入逻辑更新数据 | 可触发相关读缓存失效 |
这里的“对象缓存”可以是 OpenResty 对某个 HTTP 响应的缓存,也可以是应用使用 Redis 等组件保存的对象。两者边界不同:OpenResty 缓存的是最终响应,应用层缓存保存的可能是结构化数据,还能在权限判断之后再组装响应。
“查询缓存”也需要单独理解。/api/search?keyword=a&page=1 的响应缓存属于 HTTP 层查询结果缓存;数据库查询计划或 SQL 结果缓存则属于应用和数据库层。前者必须处理 URL、请求头和 Cookie,后者还要处理数据版本、事务一致性和序列化成本,不能混为一谈。
OpenResty 响应缓存是怎样工作的
请求进入缓存前,先计算缓存键
一个共享缓存请求大致经过以下过程:
- OpenResty 根据协议、主机、路径和查询字符串计算缓存键。
- 如果缓存中存在未过期的对象,直接返回响应,不访问后端应用。
- 如果没有命中,则请求后端。
- 后端响应满足缓存条件时,OpenResty 将响应写入缓存。
- 后续相同缓存键的请求在 TTL 内复用该响应。
缓存键决定了“哪些请求被视为相同请求”。常见键至少要包含:
- 协议或端口,避免 HTTP 与 HTTPS 混用;
- 主机名,避免多个站点共享同一份响应;
- 路径;
- 查询参数;
- 会影响响应内容的语言、版本或设备维度。
如果接口根据 Accept-Language 返回不同语言,却只使用路径作为缓存键,就可能把中文响应返回给英文请求。接口根据租户请求头返回数据时,也不能只按 URL 缓存。更稳妥的做法是明确列出允许影响响应的维度,并将它们加入键,无法穷举时则关闭共享缓存。
查询参数还存在顺序问题。下面两个 URL 在业务上可能等价:
/api/list?page=1&sort=price
/api/list?sort=price&page=1
如果直接使用原始 $request_uri,它们通常会形成两个缓存对象。可以在应用层统一参数顺序,也可以在 OpenResty 中用 Lua 对允许的参数进行白名单化和规范化,但不能简单删除所有参数。删除筛选条件、分页参数或排序参数,会把不同结果错误地合并。

TTL 只解决“多久过期”,不解决“数据是否安全”
TTL 是时间边界,不是权限边界。把 TTL 设置为 1 秒,不能让用户私有响应变成安全的公共响应;把 TTL 设置为 1 小时,也不代表公共数据一定不能缓存。
常见的失效方式有四种:
- 时间失效:到达 TTL 后重新从后端获取,适合更新频率高但允许短暂陈旧的数据。
- 版本失效:把内容版本加入路径或缓存键,例如文章发布后切换到新版本,适合静态化页面和不可变资源。
- 对象失效:更新商品、文章或分类后,只清理对应对象,而不是清空整个缓存。
- 事件失效:写入成功后向缓存层发送失效通知,适合必须快速反映变化的业务,但需要处理消息丢失和多层缓存不同步。
如果没有可靠的失效机制,优先使用较短 TTL,不要通过无限延长缓存时间来降低后端压力。短 TTL 带来的回源开销,通常比错误展示权限数据或旧业务状态的风险更容易控制。
一个适合公共只读接口的 OpenResty 配置示例
下面配置以 /api/catalog 为例,只缓存不带授权信息和会话 Cookie 的 GET、HEAD 请求。它是用于说明边界的最小示例,实际使用时应将后端地址、缓存目录、域名和 Cookie 名称替换为真实值。
worker_processes auto;
events {
worker_connections 1024;
}
http {
proxy_cache_path /var/cache/openresty/api
levels=1:2
keys_zone=api_cache:20m
max_size=2g
inactive=10m
use_temp_path=off;
map $request_method $skip_cache_method {
default 1;
GET 0;
HEAD 0;
}
map $http_authorization $skip_cache_auth {
default 1;
"" 0;
}
map $cookie_sessionid $skip_cache_session {
default 1;
"" 0;
}
upstream app_backend {
server 127.0.0.1:8080;
}
log_format cache_log
'$remote_addr $request '
'status=$status request_time=$request_time '
'cache=$upstream_cache_status '
'upstream_time=$upstream_response_time';
access_log /var/log/openresty/access.log cache_log;
server {
listen 80;
server_name api.example.test;
location = /api/catalog {
proxy_pass http://app_backend;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_cache api_cache;
proxy_cache_methods GET HEAD;
# 不把请求方法放入键中,使 HEAD 可以复用 GET 的缓存对象
proxy_cache_key "$scheme|$host|$request_uri";
proxy_cache_bypass
$skip_cache_method
$skip_cache_auth
$skip_cache_session;
proxy_no_cache
$skip_cache_method
$skip_cache_auth
$skip_cache_session
$upstream_http_set_cookie;
proxy_cache_valid 200 30s;
proxy_cache_valid 404 5s;
proxy_cache_lock on;
proxy_cache_lock_timeout 5s;
proxy_cache_background_update on;
proxy_cache_use_stale
updating
error
timeout
http_500
http_502
http_503
http_504;
add_header X-Cache-Status $upstream_cache_status always;
}
}
}
这个示例有几个重要限制:
sessionid只是示例 Cookie 名称,实际系统可能使用其他名称,应按认证实现调整。- 不应通过
proxy_ignore_headers强行忽略后端的Set-Cookie、Cache-Control: private或no-store。 /api/catalog必须确实是公共数据。如果同一路径根据租户、语言或请求头返回不同内容,应先拆分缓存键,或者关闭该位置的共享缓存。X-Cache-Status适合测试和监控,公开生产接口时可以删除或限制暴露。- 缓存目录需要由 OpenResty 工作进程正常读写,磁盘空间和 inode 也应纳入监控。
配置中的 proxy_cache_lock 用于减少缓存击穿:同一缓存键未命中时,尽量只让一个请求回源,其他请求等待缓存填充。proxy_cache_background_update 与 proxy_cache_use_stale updating 可以在满足业务条件时降低更新瞬间的等待,但它们可能让客户端继续看到旧响应,因此只适用于公共、可接受短暂陈旧的接口。
影响缓存边界的几个因素
权限、Cookie 和响应头优先于命中率
共享缓存最危险的错误不是 MISS,而是把一个用户的响应返回给另一个用户。以下情况通常应该绕过公共响应缓存:
- 请求携带
Authorization; - 请求带有登录会话 Cookie;
- 后端响应包含
Set-Cookie; - 响应带有
Cache-Control: private或no-store; - 响应内容包含账户信息、地址、订单、余额或权限结果;
- 同一 URL 根据租户或用户角色生成不同内容。
不要只依赖某个默认行为判断安全性。应用、OpenResty 和边缘缓存应共同明确规则,尤其要检查框架是否会在某些异常、刷新或登录场景下追加 Cookie。
写入接口与读取接口必须分开处理
一个常见错误是把 /api/product/123 的 GET 缓存配置好,却没有设计商品更新后的失效策略。更新接口完成后,旧对象可能继续存活到 TTL 结束。
可以按业务重要程度选择:
- 价格和描述允许延迟几十秒:使用短 TTL;
- 发布状态必须较快生效:更新成功后让对象版本变化;
- 内容管理系统要求立即刷新:使用经过鉴权的对象级失效机制;
- 库存、余额和可用额度参与交易判断:交易链路直接读取可靠数据,不使用共享旧响应。
失效操作必须与写入结果绑定。写入失败时不要清理新数据对应的缓存版本;写入成功但失效通知失败时,需要有重试或较短 TTL 兜底。
查询参数越多,缓存对象越容易碎片化
搜索、筛选和分页接口常见的问题不是完全不能缓存,而是缓存键数量过多。例如关键词大小写、无意义的追踪参数、默认分页值不同,都可能产生大量只访问一次的缓存对象。
可以做以下处理:
- 只把真正影响结果的参数纳入键;
- 对排序字段、分页大小、语言代码设置白名单;
- 统一默认值和参数顺序;
- 对异常长查询、模糊查询或组合条件过多的请求绕过缓存;
- 不把用户输入的授权信息、签名或隐私字段直接写入可观测的缓存键。
如果一个查询的参数空间几乎无限,且每个结果只被访问一次,OpenResty 响应缓存的收益可能低于应用层缓存或数据库优化。
台湾源站与边缘缓存是两层不同的缓存
台湾服务器作为源站时,OpenResty 缓存发生在源站入口。若前面还有 CDN,通常会形成:
客户端 → CDN 边缘缓存 → 台湾源站 OpenResty → 应用服务 → 数据库
这几层的职责不同:
- CDN 适合公共页面、静态资源和不涉及权限的公共 API;
- 台湾源站 OpenResty 适合降低应用和数据库压力;
- 应用层缓存适合在权限判断之后复用结构化对象;
- 私有接口通常只在用户侧或应用内部按用户隔离。
外层缓存可能在源站数据已经更新后继续返回旧内容。因此,不能只清理台湾服务器上的 OpenResty 缓存,就认为所有客户端已经得到新数据。如果业务要求快速生效,应同时考虑 CDN 失效、浏览器 Cache-Control、OpenResty TTL 和应用对象缓存的生命周期。

如果访问者主要集中在台湾及邻近网络,源站短时响应缓存可能已经足够;如果访问者分布在多个地区,公共内容可以增加边缘缓存以减少跨区域回源。这个选择属于网络拓扑和成本权衡,不应改变登录态、授权和敏感数据的缓存禁区。
台湾服务器作为 OpenResty 缓存源站时,计算资源、存储和网络线路共同构成动态接口服务的运行基础。A5idc数据在中国台湾台北提供物理服务器方案,并覆盖香港、日本、韩国、新加坡、美国等地区,适配不同访问区域的部署需求;各地区产品配置和线路选择不同,可为接口应用、数据库及缓存服务提供相应的硬件与网络资源。
缓存容量与命中率也会改变实际效果
缓存命中率高,不代表缓存策略正确;命中率低,也不一定代表配置失败。需要同时看:
- 命中对象是否真的可共享;
- MISS 是否集中发生在过期瞬间;
- 缓存对象平均大小;
- 磁盘空间和 inode 是否足够;
- 是否有大量一次性查询占满缓存;
- 回源请求是否因失效集中产生峰值。
例如某公共列表接口稳定收到每秒 120 个请求,经过参数规范化后命中率约为 85%,则平均回源请求量可按以下方式估算:
回源请求量 = 总请求量 × (1 - 命中率)
= 120 × (1 - 0.85)
= 18 请求/秒
这只是容量估算,不代表真实监控结果。若所有对象在同一秒过期,短时回源量仍可能远高于 18 请求/秒,因此需要使用锁、错峰 TTL 或版本化发布降低集中失效。
用请求和日志验证缓存是否越界
先检查配置和响应状态
在变更配置前,应先确认当前实际使用的二进制和配置文件,避免把系统服务名、配置路径或 OpenResty 安装位置当成固定值:
command -v openresty || command -v nginx
openresty -t -c /etc/openresty/nginx.conf
如果环境中的可执行文件不是 openresty,应使用上一条命令返回的路径进行语法检查。生产变更前还应保留当前配置文件,避免新配置导致服务无法加载。
对公共测试接口连续请求两次:
curl -sS -D - -o /dev/null \
'http://api.example.test/api/catalog?page=1'
curl -sS -D - -o /dev/null \
'http://api.example.test/api/catalog?page=1'
在示例配置中,第一次通常可能看到:
X-Cache-Status: MISS
第二次在 30 秒 TTL 内通常应看到:
X-Cache-Status: HIT
实际状态还可能出现 BYPASS、EXPIRED、STALE 或 UPDATING。判断时要结合响应状态码、Cache-Control、Set-Cookie 和后端日志,不能只看一个自定义响应头。
用测试矩阵确认“应该缓存”和“必须绕过”
至少应覆盖以下请求:
| 测试场景 | 预期状态 | 要验证的边界 |
|---|---|---|
| 未登录的公共 GET,连续请求两次 | 第一次 MISS,随后 HIT | 基础缓存是否生效 |
| 携带 Authorization 的 GET | BYPASS 或不产生缓存 | 权限请求是否隔离 |
| 携带会话 Cookie 的 GET | BYPASS | 用户响应是否进入公共缓存 |
| POST、PUT、DELETE | 不读取或写入公共缓存 | 写入接口是否被错误缓存 |
| 不同分页、排序和筛选参数 | 分别得到正确响应 | 查询参数是否进入缓存键 |
| 参数顺序不同但语义相同 | 规范化后可复用,或明确产生两个键 | 查询键是否规范 |
后端返回 Set-Cookie | 不应写入共享缓存 | 会话响应是否被保护 |
| 数据更新后再次读取 | 按约定看到新版本或短暂旧版本 | 失效策略是否符合业务要求 |
| 上游返回 500 或超时 | 不应缓存错误响应 | 故障响应是否污染缓存 |
带写入动作的测试应在测试环境或专用测试数据上执行,避免用生产订单、库存或账户数据验证失效逻辑。
如果接口支持语言、租户或设备差异,还应分别带上这些请求头进行测试。例如,先请求中文,再请求英文,检查响应内容和缓存状态是否相互污染。不能因为两次请求都返回 HIT,就认为策略成功;命中错误内容同样是缓存故障。
从日志判断回源压力和失效行为
示例中的日志会记录 cache=$upstream_cache_status、请求耗时和上游耗时,可以按状态统计:
grep 'cache=' /var/log/openresty/access.log | tail -n 50
重点观察:
HIT是否集中在公共读接口;BYPASS是否主要来自登录态和写请求;MISS是否在 TTL 到期时集中出现;STALE是否在上游异常期间持续增加;MISS请求的上游耗时是否明显高于HIT;- 404、500 等状态是否被错误缓存。
验证缓存命中率时,应按接口、状态码、是否带认证和查询类型拆分统计。把所有路径的 HIT 合并成一个数字,可能掩盖某个敏感接口被错误缓存,或者某个查询接口产生了大量无效缓存对象。
适用限制与上线判断
OpenResty 的共享响应缓存适合解决“相同公共请求被重复计算”的问题,不适合替代权限系统、事务一致性和数据库写入控制。以下场景应保持谨慎:
- 余额、库存、优惠资格、权限和风控结果不能依赖过期共享响应;
- 用户、租户和角色不同的响应不能共用一个未区分的缓存键;
- 需要立即生效的内容不能只依靠长 TTL;
- 参数空间很大的搜索接口不应无条件缓存;
- 上游错误响应不能因为
proxy_cache_use_stale配置而被长期保存; - CDN、浏览器、OpenResty 和应用缓存的 TTL 不能各自设置而不做失效协调;
- 缓存目录、内存元数据和磁盘空间需要单独监控;
- 任何用于失效的管理接口都必须有鉴权、审计和范围限制,不能让普通请求触发全量清理。
最终可以用三条线判断一个动态接口是否适合进入 OpenResty 缓存:
- 共享线:不同用户、租户和权限请求能否安全共享同一响应?
- 时效线:业务允许的陈旧时间是否大于零,并且有明确的 TTL 或失效事件?
- 验证线:能否通过缓存头、日志、参数组合、认证请求和数据更新测试证明它没有越界?
三条线都满足时,可以从较短 TTL、只缓存 200 响应、明确白名单参数开始,再根据回源压力和命中情况调整。只要共享性或权限边界无法证明,就应让请求绕过公共缓存,即使这样会增加台湾源站和后端应用的访问量。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/8895.html



