网站使用美国服务器并接入CDN后,动态请求慢该如何调整缓存?

发布人:A5数据发布时间:2026-10-09 14:07阅读量:90

美国服务器接入 CDN 后,动态请求仍然慢,通常不是“CDN 没有启用”这么简单,而是请求在边缘节点被判定为未命中、被绕过,或者命中条件过于分散。调整缓存的重点不是把所有动态内容都缓存,而是先区分响应是否对不同访客相同,再分别决定使用页面缓存、对象缓存、查询缓存,还是只在源站内部做短时间缓存。

一次请求从访客到美国源站,可能经过 DNS 解析、CDN 边缘节点、边缘缓存判断、跨区域回源、Web 服务、应用程序和数据库。只要动态请求每次都回源,CDN 主要只能改善接入和连接层,无法消除访客到美国服务器之间的网络往返。更合适的做法是:公开的 GET 请求使用短 TTL 边缘缓存,带用户身份的数据绕过共享缓存,写入请求配合精确失效,源站再用对象或查询缓存降低回源后的处理时间。

从一次完整访问看慢在哪里

以访客打开一个商品详情页为例,请求路径大致如下:

  1. 浏览器解析域名,获得 CDN 的接入地址。
  2. 浏览器与就近的 CDN 边缘节点建立 TCP 和 TLS 连接。
  3. 边缘节点根据域名、路径、查询参数、请求方法、Cookie 等信息计算缓存键。
  4. 如果边缘缓存命中,直接返回页面或对象。
  5. 如果未命中,边缘节点向美国源站发起回源请求。
  6. 源站的负载均衡器或 Nginx 接收请求,转发给应用服务。
  7. 应用读取数据库、调用内部服务或对象缓存,生成响应。
  8. 响应依次返回边缘节点和访客浏览器,并根据响应头决定是否保存。

因此,页面慢可能发生在多个位置:

  • DNS、TCP 或 TLS 建连时间过长;
  • CDN 边缘节点距离访客较远,或者请求没有进入预期的边缘节点;
  • CDN 每次都回源美国服务器;
  • 源站连接数、CPU、内存或磁盘 I/O 紧张;
  • 应用执行查询、调用接口或模板渲染耗时;
  • 响应带有 Cookie、授权信息或禁止缓存的响应头;
  • 查询参数过多,导致同一内容产生大量缓存键;
  • 缓存实际命中,但返回体过大、压缩不足或链路传输较慢。

CDN 命中与源站处理不是一回事

动态页面由程序生成,并不代表它一定不能缓存。关键是判断页面内容是否在一段时间内对不同访客保持一致。

例如:

  • 新闻列表由程序生成,但公开访客看到的内容可能相同,可以缓存几十秒;
  • 商品详情包含公开名称、图片和描述,可以缓存数分钟;
  • 购物车、订单状态和账户余额与用户有关,不适合放入共享 CDN 缓存;
  • 搜索结果虽然是 GET 请求,但可能因关键词、筛选条件和用户权限不同,需要严格控制缓存键;
  • POST、PUT、PATCH、DELETE 通常具有写入或副作用,不应按普通页面缓存处理。

如果一个公开页面允许缓存 60 秒,那么第一个请求可能仍需回源美国服务器生成内容,但随后同一边缘节点的请求可以直接读取缓存。对跨区域访问而言,真正明显的收益往往来自“后续请求不再跨区域回源”,而不是让第一次生成页面的速度发生改变。

先沿访问入口判断 CDN 是否真正参与

检查 DNS 和接入位置

域名解析后应指向 CDN 分配的接入域名或地址,而不是直接指向美国服务器的公网 IP。若域名仍直接解析到源站,或者部分记录绕过 CDN,缓存配置不会对这些请求生效。

可以先查看解析结果:

dig +short www.example.com
dig +short cdn.example.com

这里的域名只是示例。实际检查时,应确认:

  • 业务域名是否已经接入 CDN;
  • IPv4 和 IPv6 是否都指向预期的 CDN;
  • 是否存在旧的 A 记录、AAAA 记录或备用域名绕过 CDN;
  • HTTP 和 HTTPS 是否使用了不同的接入配置;
  • CDN 回源地址是否是美国源站的正确域名或 IP;
  • 回源 Host 是否与应用虚拟主机匹配。

如果只有部分用户慢,还需要注意 DNS 缓存、不同运营商解析结果和不同区域的边缘节点选择。此时不能只在美国本地测试,因为美国本地访问源站可能很快,却无法反映亚洲、欧洲或其他区域访客经过 CDN 后的实际路径。

观察首字节时间,而不是只看页面完全加载时间

浏览器的“页面加载完成”包含 HTML、CSS、JavaScript、图片和第三方资源,不能直接代表动态请求的处理速度。排查缓存时应先关注 TTFB,也就是从请求发出到收到响应首字节的时间。

可以使用 curl 查看响应头和基础耗时:

curl -sS -D - -o /dev/null \
  -w '\ncode=%{http_code}\nnamelookup=%{time_namelookup}\nconnect=%{time_connect}\n tls=%{time_appconnect}\nstarttransfer=%{time_starttransfer}\ntotal=%{time_total}\n' \
  https://www.example.com/product/123

输出中的字段可这样理解:

  • time_namelookup:DNS 解析耗时;
  • time_connect:建立 TCP 连接耗时;
  • time_appconnect:完成 TLS 建连耗时;
  • time_starttransfer:开始收到响应的时间,通常最适合观察 TTFB;
  • time_total:整个响应完成时间。

在仅用于说明判断方法的示例中,可能看到如下现象:

测试现象可能含义
第一次 TTFB 约 800 毫秒,第二次约 80 毫秒第一次回源生成,第二次边缘命中
连续请求都在 700 至 1000 毫秒可能持续 MISS、BYPASS,或源站应用本身较慢
TTFB 较低,但 total 很高响应体较大、压缩不足或下载链路较慢
无论访问什么路径都接近相同延迟可能存在 CDN 规则、TLS、WAF 或接入节点层面的固定开销
CDN 显示 HIT,但源站每次都有对应访问日志缓存状态头可能不是实际边缘状态,或仍有其他请求触发回源

这些数值只是便于理解的示例,不代表某个美国机房或 CDN 的实测结果。实际判断应以目标访客区域、目标域名和目标请求的连续测试为准。

识别响应头中的缓存状态

不同 CDN 使用的状态头名称并不统一,常见的检查对象包括:

  • Age:对象在共享缓存中存在的时间;
  • X-Cache:可能显示 HIT、MISS、BYPASS 或 EXPIRED;
  • CF-Cache-Status 等供应商特有字段;
  • Cache-Control:源站向浏览器和共享缓存表达的缓存策略;
  • ETag、Last-Modified:用于协商缓存;
  • Set-Cookie:经常导致共享缓存绕过或产生安全风险;
  • Vary:说明响应是否随某些请求头变化。

X-Cache: HIT、Age: 20 这类信息可以作为线索,但不能只看一个自定义头就认定请求一定没有回源。CDN 可能在边缘层修改、隐藏或重新命名状态头,必要时还要结合 CDN 控制台的边缘日志和源站访问日志判断。

沿网络路径判断:美国源站是否仍是主要等待点

CDN 可以让访客先连接就近边缘节点,但缓存未命中时,边缘节点仍要访问美国服务器。链路大致是:

访客 → 就近 CDN 节点 → 国际网络 → 美国源站 → 应用服务 → 数据库

因此,动态请求有以下两种完全不同的情况。

边缘命中

请求在 CDN 节点直接返回,源站不参与本次请求。此时源站所在美国地区对这次请求的影响很小,主要关注:

  • 边缘节点是否覆盖目标访客区域;
  • TLS 建连和 CDN 规则处理是否耗时;
  • 缓存对象是否过大;
  • 是否存在边缘函数、WAF 或复杂规则;
  • 响应是否需要再次传输大量内容。

边缘未命中或被绕过

请求从 CDN 回源到美国服务器。此时会叠加:

沿网络路径判断:美国源站是否仍是主要等待点配图

  • 边缘到美国源站的网络往返;
  • 回源连接建立或连接池等待;
  • 源站排队;
  • 应用处理;
  • 数据库和内部服务访问;
  • 响应从美国返回边缘节点的时间。

如果公开页面每次都 MISS,CDN 只是增加了一层转发,甚至可能比直接访问源站多出一次处理环节。此时首要任务不是继续提高 CDN 缓存时长,而是找出为什么没有命中。

常见原因包括:

  • 响应包含 Cache-Control: private 或 no-store;
  • 请求带有 Authorization;
  • 应用为所有访客设置了相同或不同的会话 Cookie;
  • CDN 规则默认绕过了包含查询参数的 URL;
  • 使用了不支持缓存的请求方法;
  • 缓存键包含随机参数、时间戳或无关追踪参数;
  • 源站返回 Set-Cookie;
  • CDN 配置只缓存静态文件,没有为动态 GET 路径启用缓存;
  • 每个区域、协议或 Host 被拆成不同缓存空间;
  • 缓存对象刚好过期,短时间内重复触发回源。

不要用随机参数测试缓存命中

测试缓存时,如果每次都在 URL 后追加随机参数,例如:

/product/123?test=171234
/product/123?test=171235

每个地址都可能被视为不同缓存对象,测试结果自然会持续 MISS。应在相同域名、相同路径、相同查询参数和相同请求头条件下连续访问。

对于缓存策略测试,可以准备三类 URL:

  1. 不带参数的公开页面;
  2. 带固定业务参数的公开页面;
  3. 带登录 Cookie 或授权头的个性化页面。

分别比较三类请求的缓存状态,才能判断是路径规则问题,还是用户身份导致绕过。

从源站资源判断:缓存未命中后谁在等待

边缘缓存未命中之后,请求才会进入美国服务器的资源处理阶段。源站侧建议把一次请求拆成以下指标,而不是只看整机 CPU。

连接和 Web 服务层

首先关注:

  • 当前连接数和连接等待队列;
  • Nginx 或其他 Web 服务的工作进程是否达到上限;
  • 源站带宽是否饱和;
  • TLS 连接是否频繁新建;
  • 回源连接是否复用;
  • 5xx、超时和连接重置数量;
  • 单个请求的 upstream connect time、header time 和 response time。

如果 CDN 到源站的连接没有复用,短时间内大量边缘回源可能让美国服务器花费较多时间建立连接。此时即使应用执行时间不长,整体 TTFB 仍会升高。

CPU、内存和磁盘

动态页面常见的资源瓶颈包括:

  • 模板渲染或数据序列化消耗 CPU;
  • PHP、Node.js、Java、Python 等应用工作进程不足;
  • 内存不足导致频繁回收或交换;
  • 日志写入或文件读取造成磁盘 I/O 等待;
  • 大量图片、压缩包或导出文件占满带宽;
  • 连接数过多导致上下文切换和队列堆积。

如果缓存命中率提高后,CPU 和数据库负载明显下降,但命中请求的 TTFB 仍然高,应继续检查 CDN 边缘侧,而不是继续压缩应用代码。反过来,如果 CDN MISS 时源站 CPU、数据库连接池和应用队列同时升高,说明主要瓶颈在回源后的处理阶段。

针对CDN未命中后动态页面与接口的源站处理需求,A5数据提供美国Xeon及AMD EPYC物理服务器,涵盖大内存与NVMe存储配置,可承载Web应用、数据库及源站内部缓存,为重复查询复用、应用并发处理和数据读写提供资源基础。美国常规系列另有CN2 GIA线路方案,为跨境网站的源站部署提供网络资源选择,与边缘缓存形成分层支撑。

源站内部短缓存

当边缘缓存不适合使用,或者多个 CDN 节点同时回源时,可以在美国源站的反向代理层增加短时间页面缓存。它的作用不是替代 CDN,而是减少同一源站在短时间内重复生成相同响应。

适合的场景包括:

  • 公开的 GET 页面;
  • 内容允许延迟几十秒更新;
  • 访问量较大且页面生成成本较高;
  • 多个边缘节点会同时回源;
  • 应用本身没有可用的全页面缓存。

源站短缓存不适合直接覆盖账户、订单、购物车和权限相关页面。配置时必须先确认响应不会因 Cookie、授权头、语言、租户或设备类型而变化。

下面是一个适用于 Nginx 反向代理层的示例。它只允许没有授权头、没有指定会话 Cookie 的 GET/HEAD 请求进入缓存,并设置较短的缓存时间:

http {
    proxy_cache_path /var/cache/nginx/public_cache
        levels=1:2
        keys_zone=public_cache:100m
        max_size=5g
        inactive=10m
        use_temp_path=off;

    map $request_method $skip_cache_method {
        default 1;
        GET     0;
        HEAD    0;
    }

    map $http_authorization $skip_cache_auth {
        default 1;
        ""      0;
    }

    map $cookie_session_id $skip_cache_session {
        default 1;
        ""      0;
    }

    upstream app_backend {
        server 127.0.0.1:8080;
        keepalive 32;
    }

    server {
        listen 443 ssl;
        server_name www.example.com;

        location /api/public/ {
            proxy_pass http://app_backend;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;

            proxy_cache public_cache;
            proxy_cache_methods GET HEAD;
            proxy_cache_key "$scheme://$host$request_uri";

            proxy_cache_bypass
                $skip_cache_method
                $skip_cache_auth
                $skip_cache_session;

            proxy_no_cache
                $skip_cache_method
                $skip_cache_auth
                $skip_cache_session;

            proxy_cache_valid 200 60s;
            proxy_cache_valid 404 10s;
            proxy_cache_lock on;
            proxy_cache_revalidate on;

            add_header X-Proxy-Cache $upstream_cache_status always;
        }
    }
}

这个示例有几个重要边界:

  • session_id 只是示例 Cookie 名称,应替换为应用实际使用的会话字段;
  • 如果响应还受 tenant_id、语言、地区或设备类型影响,必须把这些条件纳入策略;
  • proxy_cache_key 不应随意删除业务上有影响的查询参数;
  • X-Proxy-Cache 适合临时诊断,正式环境要评估是否保留;
  • Set-Cookie、Cache-Control: private 等响应信息不能为了提高命中率而直接忽略;
  • 配置只应应用于已经确认是公开内容的路径。

修改配置前应备份原配置,并先执行语法检查:

nginx -t

语法检查通过不代表业务一定安全,还要用未登录、已登录、带参数和不带参数的测试请求验证。若发现个性化响应被缓存,应立即撤回本次缓存规则或清理对应对象,并恢复备份配置后重新加载服务。不要把全站缓存规则直接复制到登录、订单或管理路径。

选择合适的缓存层级

缓存层级不是越多越好。每增加一层,都要明确它解决的是网络距离、重复计算,还是数据库压力。

缓存层级主要作用适合内容主要风险
浏览器缓存减少同一访客重复下载CSS、JS、图片、带版本号的静态文件用户可能继续使用旧资源
CDN 边缘缓存减少访客到美国源站的跨区域回源公开 HTML、公开 GET API、图片和下载对象缓存键设计错误会造成数据串用
源站反向代理缓存减少多个边缘回源造成的重复生成公开页面、短 TTL 的接口响应每台源站缓存可能不一致
应用对象缓存减少重复计算和数据库读取商品对象、配置、栏目、权限无关数据数据更新后需要失效
查询结果缓存缓解高频相同查询明确可复用的查询结果查询条件遗漏会返回错误结果
数据库内部缓存加快数据库重复读取由数据库自身管理的热点数据不应作为唯一缓存策略

页面缓存

页面缓存保存完整 HTML 响应。它对首页、栏目页、文章页、公开商品页比较有效,尤其适合页面生成成本高、内容更新不是每秒发生的业务。

页面缓存前应确认:

  • 页面是否对所有访客基本一致;
  • 是否包含登录状态、用户名、购物车数量;
  • 是否会根据 Cookie 改变价格、权限或推荐结果;
  • 是否依赖地区、语言、设备或租户;
  • 页面中的 CSRF Token 是否每个访客不同;
  • 页面是否包含必须实时显示的库存、余额或订单状态。

如果一个页面只有顶部导航和几个小组件依赖用户身份,可以把公共 HTML 缓存,用户相关部分改成浏览器加载后的独立接口。这样比整页绕过 CDN 更容易获得稳定的缓存命中率。

对象缓存

对象缓存通常包括图片、JavaScript、CSS、字体、安装包、视频切片和公开下载文件,也可以包括由 API 返回的完整 JSON 响应。

静态对象适合使用版本化 URL:

/assets/app.8f31c2.js
/assets/site.202501.css

发布新版本时生成新的文件名,旧对象继续保留一段时间,浏览器和 CDN 可以使用较长的缓存时间。这样不必在每次发布时清空全部缓存,也不会因为清理全站缓存导致源站瞬间承受大量回源。

如果对象 URL 不带版本号,就只能使用较短 TTL,或者在更新后精确清理指定 URL。对大文件还应单独观察:

  • 首字节时间;
  • 下载速度;
  • Range 请求支持;
  • CDN 是否缓存完整对象;
  • 源站出口带宽;
  • 是否因为频繁失效导致重复回源。

查询缓存

查询缓存有两种常见含义:

  1. 缓存一个带查询参数的 HTTP 响应;
  2. 缓存应用执行某条查询后得到的对象或结果集。

例如:

/product/123?lang=zh-CN&currency=USD

如果 lang 和 currency 会影响响应,就必须保留在缓存键中。如果 utm_source、utm_campaign、fbclid 只用于统计而不影响页面内容,则可以在确认 CDN 和应用处理方式后,将它们从缓存键中排除。不能在没有确认的情况下粗暴忽略所有查询参数,因为某些参数可能控制排序、权限、价格或数据范围。

搜索接口通常不适合长时间共享缓存。可以采用以下策略:

  • 对完全公开、重复率较高的热门搜索结果使用很短 TTL;
  • 将关键词、分页、排序、语言和筛选条件纳入缓存键;
  • 排除不会改变结果的追踪参数;
  • 对带用户权限、个性化排序或实时库存的搜索直接绕过共享缓存;
  • 限制过长、过多的查询组合,避免缓存空间被低频对象占满。

设计缓存键,避免命中率低或数据串用

缓存键决定了“哪些请求被认为是同一个对象”。常见组成部分包括:

设计缓存键,避免命中率低或数据串用配图

协议 + 主机名 + 路径 + 规范化后的查询参数 + 必要的内容变化维度

需要谨慎处理以下因素。

请求方法

一般只对 GET 和 HEAD 考虑共享缓存。POST 不应仅因为返回 JSON 就直接缓存,因为它可能执行登录、支付、提交表单或其他写入操作。

如果某个接口虽然使用 POST,但实际上只是公开查询,应该先评估能否改为安全的 GET,或者在应用和 CDN 都明确支持的情况下建立专门规则。不要只通过缓存配置强行把所有 POST 当成可缓存对象。

Authorization 和会话 Cookie

带有 Authorization 的请求通常与用户身份有关。即使两个用户访问相同路径,也可能得到不同结果,默认应绕过共享缓存。

Cookie 需要逐个判断:

  • session_id、登录令牌:通常绕过;
  • 购物车、会员等级、租户标识:通常绕过或纳入变化维度;
  • 语言偏好、地区偏好:可以作为有限的缓存维度;
  • 统计或实验 Cookie:如果会改变页面,必须纳入缓存键;如果不改变页面,应避免造成无意义的缓存拆分。

一个常见错误是把所有 Cookie 都放进缓存键。这样每个访客都得到不同缓存对象,命中率会大幅下降。另一个更危险的错误是完全忽略会影响响应的 Cookie,可能把一个用户的页面返回给另一个用户。

Vary 响应头

Vary: Accept-Encoding 通常用于区分压缩方式,属于常见情况。若使用:

Vary: Cookie

则可能让缓存按 Cookie 变化,造成大量对象。应先确认应用是否真的需要按完整 Cookie 区分响应。如果只受语言影响,可以考虑使用明确的语言维度,而不是让整个 Cookie 集合参与缓存判断。

Host、协议和区域

同一 IP 上可能承载多个站点,缓存键必须包含正确的 Host。HTTPS 与 HTTP 是否使用相同内容,也要由业务规则确认。多语言、多租户或区域价格场景,不能只按路径缓存。

如果响应受访客国家、货币或仓库区域影响,应将对应维度纳入缓存键,或者直接对这类请求绕过共享缓存。不要仅根据 CDN 边缘节点所在地推断业务区域,因为边缘节点位置与访客真实业务归属不一定相同。

用响应头表达缓存意图

源站应通过响应头明确告诉浏览器和共享缓存如何处理。一个公开、允许短时间复用的响应可以使用类似策略:

Cache-Control: public, max-age=30, s-maxage=120, stale-while-revalidate=30
ETag: "product-123-v45"

其中:

  • public:表示允许共享缓存保存;
  • max-age=30:浏览器可直接使用 30 秒;
  • s-maxage=120:共享缓存可使用 120 秒;
  • stale-while-revalidate=30:部分缓存系统支持在后台重新验证时短暂返回旧对象;
  • ETag:内容未变化时,可以通过协商请求减少完整响应生成。

具体 CDN 对 stale-while-revalidate、stale-if-error 和 ETag 的支持存在差异,应以实际配置和响应头为准。若业务允许故障时短暂返回旧内容,可以考虑:

Cache-Control: public, max-age=10, s-maxage=60, stale-while-revalidate=30, stale-if-error=300

这里的代价是:源站出现错误时,访客可能看到最长数分钟的旧内容。价格、库存、订单和账户类数据通常不应随意使用这种容错策略。

用户相关响应应明确禁止共享缓存,例如:

Cache-Control: private, no-store

如果只是希望浏览器每次重新验证,而不是完全禁止浏览器保存,可以根据业务需要使用 private, no-cache,但这两者含义不同:

  • private:不允许共享缓存使用,浏览器可以保存;
  • no-cache:使用前需要重新验证,不等于完全不保存;
  • no-store:不应保存响应内容,适合敏感数据。

只在 CDN 控制台设置 TTL,而不检查源站响应头,容易出现规则相互覆盖。应先确定哪个配置优先级更高,并验证最终客户端和 CDN 看到的 Cache-Control。

设计失效方式,而不是只依赖过期时间

缓存失效决定内容更新后多久对访客生效。常见方式有四种。

TTL 自动过期

TTL 简单可靠,适合不要求即时更新的公共内容。以下是便于起步的示例范围:

内容类型示例共享缓存时间适用前提
公开新闻列表30 至 120 秒允许短暂延迟
文章详情页5 至 15 分钟发布后不是必须立即可见
商品描述1 至 10 分钟价格和库存不在该响应中
公开接口10 至 60 秒返回数据变化可容忍短延迟
实时库存或订单状态通常不使用共享长缓存数据变化影响交易

这些时间不是固定标准,应根据业务可以接受的陈旧时间确定。缓存 60 秒意味着数据在最不利情况下可能延迟约 60 秒,再加上边缘节点之间的传播和重新请求时间。

精确 URL 清理

内容发布或更新后,清理具体页面 URL。适合:

  • 文章发布;
  • 商品描述修改;
  • 栏目页更新;
  • 公开 API 对象更新。

如果同一内容存在多个查询参数版本,必须同时清理所有实际缓存键,或者采用统一的规范化 URL。只清理不带参数的地址,可能仍有带参数版本继续返回旧内容。

标签、前缀或分组清理

如果 CDN 支持缓存标签或前缀清理,可以给同一商品相关的详情页、列表页和接口响应打上业务标签,更新商品后按标签清理。该能力的配置名称和限制取决于 CDN,不能默认所有平台都支持。

全站清理虽然简单,但容易造成缓存雪崩。大量请求同时回源时,美国源站可能短时间内出现 CPU、数据库连接和带宽峰值。除非是安全事件或全站版本切换,否则应优先使用精确 URL、标签或前缀清理。

版本化地址

静态文件优先使用版本化文件名或版本查询参数。发布新文件时生成新的地址,旧地址自然退出使用。此方式特别适合 CSS、JavaScript、字体和图片,不适合需要保持固定 URL 的实时接口。

写入后触发失效

商品更新、文章发布或配置变更成功后,可以由应用发出缓存清理事件。为了避免“数据库已提交但清理请求丢失”,应记录失效任务并支持重试。清理动作最好发生在数据库事务成功之后,不要在事务回滚时提前清除缓存。

对于一组相关缓存,可以采用“更新数据版本号”的方法。例如商品对象带有版本 v45,更新后变成 v46,查询和页面缓存键都使用新版本。旧对象即使短时间留在 CDN 中,也不会被新请求使用。

按不同动态请求制定策略

公开 HTML 页面

适合缓存的条件:

  • 未登录和已登录用户看到的内容完全不同,且已登录请求能绕过;
  • 页面没有用户专属 Token;
  • 页面中的价格、库存和权限信息不是实时或个性化数据;
  • 内容允许延迟更新;
  • 发布流程有清理或版本机制。

可以从较短 TTL 开始,例如共享缓存 30 至 120 秒,再根据源站负载和内容时效逐步调整。不要一开始就设置数小时,以免更新后难以解释旧页面来源。

公开 GET API

适合缓存的条件:

  • 响应不包含用户隐私;
  • 不依赖授权头;
  • 查询参数有限且能定义完整缓存键;
  • 允许短时间旧数据;
  • 失败时是否返回旧数据已经得到业务确认。

API 响应建议统一返回 Cache-Control,同时保留清晰的版本、更新时间或 ETag。对 404 也可以设置较短缓存,避免不存在的对象被高频请求击穿源站,但资源刚创建后要考虑 404 缓存造成的延迟。

搜索、筛选和排序请求

这类请求的缓存收益依赖重复率。热门关键词和固定筛选组合可能有收益,长尾查询则可能造成大量低频缓存对象。

适合的做法是:

  • 限制可参与缓存的参数集合;
  • 规范化参数顺序和大小写;
  • 对分页、排序和语言明确建键;
  • 使用较短 TTL;
  • 对过长关键词、用户专属排序和权限数据绕过共享缓存;
  • 观察缓存对象数量和命中率,不只观察请求数。

登录、购物车和订单请求

这些请求通常应设置为私有或不存储:

Cache-Control: private, no-store

如果页面只有少量用户相关区域,可以拆分为公共页面加私有接口。公共部分通过 CDN 缓存,私有接口单独访问源站或使用用户自己的浏览器缓存。这样可以避免为了一个购物车数量而让整页都无法缓存。

写入请求

创建订单、修改商品、提交表单等请求不应按普通 GET 缓存。写入成功后,需要根据受影响的资源清理相关 GET 缓存,例如:

  • 商品价格变化:清理商品详情、商品列表和相关公开接口;
  • 文章发布:清理文章详情、栏目页和首页列表;
  • 库存变化:清理库存展示接口,但不要将订单状态依赖于 CDN 缓存。

缓存失效必须和业务影响范围对应,不能只清理一个页面,也不能每次写入都清理全站。

逐层验证:从外到内建立证据链

缓存调整应按低风险、由外到内的顺序验证。每一步都要记录请求 URL、请求头、响应头、状态码、TTFB 和源站日志时间,避免只凭浏览器体感判断。

逐层验证:从外到内建立证据链配图

第一步:验证访问入口

确认测试域名经过 CDN,且没有 IPv6、备用域名或重定向绕过。使用多个访客区域进行测试,至少区分:

  • 访客距离美国源站较近的区域;
  • 访客距离美国源站较远的区域;
  • 业务主要用户所在区域。

如果所有区域都直接回源,先修正 DNS、Host 和回源配置,再谈 TTL。

第二步:验证相同请求的连续结果

对同一 URL 连续发起两次或多次请求,记录:

  • HTTP 状态码;
  • CDN 缓存状态;
  • Age;
  • Cache-Control;
  • Set-Cookie;
  • TTFB;
  • 源站访问日志中是否出现请求。

典型判断如下:

连续请求结果下一步
第一次 MISS,第二次 HIT缓存基本生效,继续检查 TTL 和失效
每次 BYPASS检查 Cookie、Authorization、规则和响应头
每次 MISS 且 Age 不增长检查响应是否禁止缓存、缓存键是否变化
HIT 但源站仍有请求核实状态头来源,并检查页面是否有其他接口请求
命中率高但接口仍慢检查实际慢的是未缓存接口、响应体传输或边缘处理
公开请求和登录请求都显示相同 HIT立即检查是否存在用户数据泄露风险

第三步:验证缓存键

分别改变一个条件,观察是否产生预期结果:

  • 只改变无业务影响的追踪参数;
  • 改变语言参数;
  • 改变分页或排序;
  • 添加测试会话 Cookie;
  • 添加授权头;
  • 改变请求方法。

如果改变不影响内容的参数就产生新对象,说明缓存键过于分散。如果改变了语言或用户身份却仍返回同一对象,说明缓存键缺少必要维度,应先停用共享缓存并修正。

第四步:验证源站资源

在同一时间窗口对比 CDN 日志和美国服务器监控:

  • CDN MISS 数量是否与源站请求量同步;
  • 源站 upstream 响应时间是否升高;
  • 应用队列和数据库连接池是否饱和;
  • CPU、内存、磁盘和出口带宽是否出现峰值;
  • 5xx、超时和连接重置是否增加;
  • 缓存命中率提高后,源站负载是否下降。

如果命中率提高但源站仍然很忙,可能存在未纳入测试的接口、静态对象回源、预加载任务或其他域名请求。不要只看首页 HTML 的缓存状态。

第五步:验证失效和回源恢复

更新一条测试内容后,按业务规定执行 URL、标签或版本失效,然后检查:

  1. 新请求是否能拿到新内容;
  2. 旧缓存是否仍在其他查询参数下存在;
  3. 失效后第一个请求是否成功回源;
  4. 并发请求是否造成大量重复回源;
  5. 源站异常时是否会返回旧内容;
  6. 恢复正常后缓存是否重新建立。

如果启用了后台更新或旧内容容错,应明确记录访客可能看到旧数据的最长时间,并由业务确认是否可接受。

复测时如何判断缓存调整是否有效

最后一次复测不要只比较一次请求的总耗时,应按下面的顺序进行:

  1. 先用未登录、固定 URL 的公开请求测试,确认第一次 MISS 后能够稳定 HIT。
  2. 再从主要访客区域测试 HIT 请求的 TTFB,确认请求不再跨区域回源。
  3. 使用登录 Cookie 和授权头测试,确认个性化请求仍然 BYPASS 或使用私有缓存。
  4. 改变语言、分页、排序和业务查询参数,确认内容变化与缓存键一致。
  5. 更新测试数据,验证精确失效、标签失效或版本切换是否生效。
  6. 观察美国源站的 CPU、数据库连接、应用队列和回源请求量,确认缓存命中率提高确实减少了源站压力。
  7. 最后再逐步增加 TTL,或扩大可缓存路径范围;每次只改变一个变量。

如果公开动态页面仍然持续 MISS,优先检查响应头、Cookie、Authorization、查询参数和 CDN 规则;如果页面已经稳定 HIT 但仍慢,再检查边缘节点、TLS、响应体大小和 CDN 侧处理;如果只有 MISS 请求慢,则重点优化美国源站的连接复用、应用处理、对象缓存和数据库查询。沿着“访问入口 → 网络路径 → 源站资源 → 应用处理 → 缓存失效”的顺序复测,才能判断缓存调整究竟减少了哪一段等待,而不是把所有延迟都归因于美国服务器或 CDN。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/2999.html

相关推荐