在香港服务器运行MongoDB,如何判断慢查询是否由索引缺失引起?

发布人:A5数据发布时间:2026-10-13 11:57阅读量:130

单看 CPU、平均响应时间或某一条慢查询日志,都不能直接证明 MongoDB 缺少索引。更可靠的判断方式,是把同一查询形状的响应时间、explain("executionStats") 执行计划、扫描文档数、磁盘 I/O、内存命中情况和并发队列放在同一个时间窗口内观察。只有当慢查询与集合扫描或低效索引计划同时出现,并且资源变化符合扫描特征时,才能把“缺少可用索引”列为主要原因。

香港服务器上的 MongoDB 还需要额外区分数据库执行耗时和网络往返耗时。如果应用与数据库不在同一台服务器,应用端看到的 800 毫秒可能由 80 毫秒网络往返、500 毫秒数据库执行和 220 毫秒连接池等待共同组成,并不等于 MongoDB 花了 800 毫秒扫描数据。判断索引问题的核心,是确认数据库端执行时间是否随扫描量、I/O 或 CPU 消耗同步上升,再通过增加或调整索引进行同负载复测。

先建立可比较的观察窗口

固定查询形状和业务条件

不要只记录“订单查询慢”或“接口变慢”。MongoDB 的执行计划与以下条件有关:

  • 查询过滤字段及其数据类型;
  • 是否包含排序、分页、聚合、$lookup 或 distinct;
  • limit、投影字段和返回文档大小;
  • 租户、用户、地区、状态等参数的取值分布;
  • 查询发生时集合大小、索引状态和并发量。

例如,下面两条语句看起来属于同一类查询,但参数选择性可能完全不同:

db.orders.find({
  tenantId: "tenant-a",
  status: "PAID",
  createdAt: {
    $gte: ISODate("2025-01-01T00:00:00Z"),
    $lt: ISODate("2025-02-01T00:00:00Z")
  }
}).sort({ createdAt: -1 }).limit(20)
db.orders.find({
  tenantId: "tenant-a",
  status: "PENDING",
  createdAt: {
    $gte: ISODate("2025-01-01T00:00:00Z"),
    $lt: ISODate("2025-02-01T00:00:00Z")
  }
}).sort({ createdAt: -1 }).limit(20)

如果 PAID 占集合的 70%,PENDING 只占 2%,同一索引对两种参数的扫描效率可能不同。因此,复测时要保留具有代表性的参数,而不是只用一组容易命中的测试数据。

同时记录端到端和数据库端时间

建议至少选取一个包含慢查询的 5 至 15 分钟窗口,并在窗口内记录:

  • 应用接口的 p50、p95、p99 响应时间;
  • MongoDB 驱动发送命令后的服务端耗时;
  • 连接池获取连接的等待时间;
  • 慢查询数量、超时数量和错误率;
  • MongoDB 主机 CPU、内存、磁盘延迟、磁盘吞吐和网络流量;
  • 当前连接数、应用线程数、请求队列长度;
  • 查询对应的 docsExamined、keysExamined 和 nReturned。

平均响应时间容易掩盖尾部问题。例如,99% 的请求耗时 30 毫秒,1% 的请求耗时 2 秒,平均值可能仍然不高,但用户感知和接口超时往往集中在 p99。索引分析应优先关联 p95、p99 与慢查询样本。

如果应用和 MongoDB 都运行在香港服务器上,应用端与数据库端的网络延迟通常不是主要变量,但仍要检查本机连接池、TCP 重传和服务端排队。如果应用部署在其他地区,则必须在应用监控中拆分 DNS、TCP/TLS、连接池等待、MongoDB 执行和响应读取等阶段。

指标A:确认慢查询是否真的发生在数据库执行阶段

用慢查询采样定位查询形状

MongoDB 的数据库 profiler 可以在短时间内记录超过阈值的操作。以下配置仅适合受控观察窗口,阈值和采样比例应结合线上负载调整:

db.setProfilingLevel(1, {
  slowms: 200,
  sampleRate: 0.1
})

随后可查看最近的记录:

db.system.profile.find(
  {
    ns: "app.orders",
    millis: { $gte: 200 }
  },
  {
    ts: 1,
    op: 1,
    command: 1,
    millis: 1,
    docsExamined: 1,
    keysExamined: 1,
    nreturned: 1,
    planSummary: 1,
    numYield: 1
  }
).sort({ ts: -1 }).limit(20)

不同 MongoDB 版本对 profiler 字段、操作类型和采样选项的支持可能存在差异,启用前可先执行:

db.version()
db.getProfilingStatus()

观察完成后恢复设置:

db.setProfilingLevel(0)

开启 profiler 会产生额外记录和磁盘写入,不能把它长期当作无成本监控手段。生产环境应限制观察时间,并确认 system.profile 所在数据库不会因为记录过多影响磁盘空间。

慢查询记录中的 planSummary: "COLLSCAN" 是一个重要线索,但不是最终结论。小集合、返回大量文档或选择性很低的查询,即使没有索引,优化器也可能判断全集合扫描成本更低。相反,IXSCAN 也不等于索引有效,索引可能扫描了大量无关键,再回表读取大量文档。

用执行统计确认扫描规模

对与线上慢查询相同的过滤条件、排序和限制条件执行:

db.orders.find({
  tenantId: "tenant-a",
  status: "PAID",
  createdAt: {
    $gte: ISODate("2025-01-01T00:00:00Z"),
    $lt: ISODate("2025-02-01T00:00:00Z")
  }
})
.sort({ createdAt: -1 })
.limit(20)
.explain("executionStats")

重点关注以下字段:

字段或阶段观察含义与索引判断的关系
winningPlan优化器实际选择的计划判断是否出现 COLLSCAN、IXSCAN、SORT
executionTimeMillis服务端执行时间与应用端时间对照,排除网络和连接池耗时
nReturned返回文档数量作为扫描效率的分母
totalDocsExamined检查过的文档数量明显高于返回量时,说明过滤或回表成本较高
totalKeysExamined扫描过的索引键数量高于返回量很多时,可能是索引选择性或顺序不合适
COLLSCAN集合扫描说明当前计划没有使用可用索引,需结合集合规模判断
IXSCAN索引扫描只能证明使用了索引,不能证明索引足够高效
SORT执行阶段需要排序可能缺少支持排序方向和过滤条件的索引
FETCH根据索引定位后回表回表文档大或命中数量多时,仍可能耗时明显

例如,下面是一组用于解释方法的模拟结果,不代表任何实际服务器监控数据:

项目查询A:可能缺少可用索引查询B:索引匹配较好
executionTimeMillis760 ms42 ms
nReturned2020
totalDocsExamined1,850,00024
totalKeysExamined031
计划COLLSCAN + SORTIXSCAN + FETCH
应用接口 p95910 ms120 ms

查询A中,扫描文档数约为返回数的 92,500 倍,且计划包含集合扫描和排序。如果同一时段 CPU 使用率、磁盘读延迟和查询队列也上升,缺少匹配索引就是较强的候选原因。查询B虽然仍然回表,但扫描规模接近实际返回规模,索引效率明显更合理。

不要机械使用某个固定倍数作为阈值。一个 10 万文档的集合扫描,可能只需要几毫秒;一个数亿文档的集合,即使扫描比例不高,也可能造成明显 I/O。真正有价值的是比较同一查询形状在慢时段和正常时段的变化,并观察扫描量与资源消耗是否同步变化。

指标B:把执行计划与资源指标放在同一时间轴

CPU升高只能说明有计算压力

缺失索引导致的集合扫描通常会增加 CPU 消耗,但 CPU 高并不专属于索引问题。聚合表达式、复杂排序、压缩解压、批量写入、应用序列化和大量并发都可能提高 CPU。

可以在 Linux 主机上采集短窗口数据:

vmstat 1 10
iostat -xz 1 10
sar -n DEV 1 10

这些命令需要系统已安装相应工具。重点不是某一秒的瞬时数值,而是慢查询发生期间是否同时出现:

  • CPU 用户态或系统态明显升高;
  • run queue 变长,任务等待 CPU;
  • 磁盘读请求和读延迟同步上升;
  • MongoDB 的 docsExamined 随慢查询增加;
  • 请求队列或并发操作数同向增长。

如果 CPU 达到 85%,但 docsExamined 很低、磁盘读稳定,而聚合阶段包含大量计算表达式,那么更应先调查聚合逻辑或并发,而不是立即增加索引。

I/O和内存可以验证扫描是否造成缓存压力

MongoDB 的 WiredTiger 会使用内存缓存保存数据页和索引页。当工作集大于可用内存,或者大量集合扫描使缓存页频繁替换时,慢查询可能伴随磁盘读延迟、缓存淘汰和系统内存压力。

可从 MongoDB 与操作系统两侧观察:

db.serverStatus({
  connections: 1,
  mem: 1,
  wiredTiger: 1,
  metrics: 1
})

字段层级会随 MongoDB 版本变化,建议根据实际返回内容查看:

  • 当前连接数和可用连接数;
  • WiredTiger cache 使用量、脏页和淘汰活动;
  • 页面读取、缓存未命中或磁盘读取相关指标;
  • MongoDB 进程常驻内存与系统可用内存;
  • 是否出现 swap 或 major page fault。

如果 COLLSCAN 查询发生时磁盘读延迟从约 3 毫秒升至 25 毫秒,缓存淘汰增加,CPU 的系统态也变高,这组联动符合“扫描量扩大了工作集并触发 I/O”的解释。若只有磁盘延迟升高,而执行计划仍是高效 IXSCAN,则还要检查备份、日志写入、压缩、存储设备或其他进程,不能直接归因于索引。

面向香港 MongoDB 数据库与业务接口的部署,A5数据提供 Xeon Gold、AMD EPYC 等物理服务器方案,配备不同容量的内存及 SSD、NVMe 存储,为数据库工作集缓存、数据与索引读写、并发计算提供硬件资源基础。香港产品还提供不同套餐的 CN2 与国际带宽选择,可承接本地应用与数据库协同运行、跨地区业务访问等场景,将数据库计算、存储和网络需求纳入部署方案。

网络指标用于分离香港服务器的地域影响

从其他地区访问香港服务器时,端到端时间可能受到网络往返、跨运营商路径和连接复用情况影响。应同时比较:

  • 应用端完整请求时间;
  • 驱动记录的连接池获取时间;
  • MongoDB 服务端 executionTimeMillis;
  • 响应体大小和网络发送时间;
  • MongoDB 主机网卡吞吐、丢包和重传;
  • 同一服务器本地执行查询时的耗时。

例如,应用端 p95 从 180 毫秒升至 500 毫秒,但 MongoDB 的服务端执行时间一直在 35 至 45 毫秒,且 docsExamined 没有增加,那么索引缺失的可能性较低。此时应优先检查连接池等待、应用所在地区到香港服务器的网络质量、返回数据量或接口自身处理时间。

反过来,如果应用端和服务端执行时间都从 50 毫秒上升到 700 毫秒,且 COLLSCAN、磁盘读取和扫描文档数同步增加,地域网络就不是主要解释。

排除几个容易混淆的替代原因

连接池耗尽

连接池不足时,请求可能在应用侧等待连接,而不是等待 MongoDB 执行查询。典型表现是:

  • 应用端连接池 checkout 或 wait queue time 上升;
  • MongoDB 服务端执行时间正常;
  • connections.current 接近配置上限;
  • 数据库慢查询数量没有同比增加;
  • 接口超时集中发生在高并发时段。

这种情况下增加索引不会消除连接池等待,甚至可能因为查询更快而掩盖了连接配置问题。应分别记录“等待连接耗时”和“拿到连接后的数据库执行耗时”。

磁盘或宿主机资源争用

如果慢查询期间所有数据库操作,包括已经使用高效索引的查询都变慢,同时出现磁盘 await、队列长度或系统负载上升,原因可能是存储设备或宿主机资源争用。

可以比较两类查询:

  • 低扫描量、返回少量文档的已知快查询;
  • 扫描量较大的慢查询。

如果两者都受影响,单个索引缺失通常不能解释全部现象。香港服务器上的备份任务、日志轮转、压缩任务或同机其他服务,也可能造成 I/O 抖动,应在同一时间轴中核对进程和计划任务。

返回文档过大或排序成本过高

查询可能使用了索引,但返回文档包含大字段,导致回表、网络传输和应用反序列化耗时增加。可以使用投影做对照:

db.orders.find(
  {
    tenantId: "tenant-a",
    status: "PAID"
  },
  {
    _id: 1,
    status: 1,
    createdAt: 1
  }
).sort({ createdAt: -1 }).limit(20).explain("executionStats")

如果加入投影后数据库执行时间明显下降,问题可能同时包含文档大小和回表成本,而不是简单的“没有索引”。

排序也需要单独看。执行计划中的 SORT 表示无法完全利用当前索引顺序,或者过滤结果仍需额外排序。对聚合而言,$match 是否能尽早执行、$sort 是否紧跟在可利用索引的过滤阶段,都会影响计划。

数据类型、排序规则和查询写法不匹配

以下情况可能让已有索引无法达到预期效果:

  • 集合中 tenantId 存的是字符串,查询却传入其他类型;
  • 查询使用的 collation 与索引 collation 不一致;
  • 部分索引的过滤条件不满足;
  • 对索引字段使用复杂表达式;
  • 正则表达式以通配符开头;
  • $ne、$nin 等条件选择性较低;
  • 多个 $or 分支中只有部分条件有合适索引;
  • 多键数组字段造成索引键数量膨胀。

因此看到“已有索引”后,不能结束判断。要继续确认实际计划是否使用了该索引、扫描了多少键,以及是否因为数据分布变化导致选择性下降。

查询计划缓存或参数分布变化

同一个查询形状在不同参数下,可能有完全不同的命中范围。某些参数返回几条文档,另一些参数返回几十万条文档,优化器选择的索引收益也不同。

排查时应:

  1. 用慢参数和正常参数分别运行 explain("executionStats");
  2. 比较两个参数的 nReturned、totalDocsExamined 和 totalKeysExamined;
  3. 查看慢查询是否集中于某个租户、状态或时间范围;
  4. 确认最近是否有数据增长、归档策略变化或索引变更;
  5. 不要仅凭一次 explain 就在所有生产查询上固定 hint。

hint 可以用于受控比较已有索引,但不宜未经验证就长期强制使用。参数分布变化后,原本有效的固定计划可能反而拖慢另一类请求。

如何判断是“缺索引”还是“索引不合适”

三种情况要分开处理

实际问题通常不是简单的“有索引”或“没索引”,而是以下三种之一:

情况执行计划特征常见资源表现判断方向
没有可用索引COLLSCAN,可能伴随 SORT扫描文档多,CPU、读 I/O 或队列上升评估新增索引
有索引但选择性差IXSCAN,totalKeysExamined 很高索引扫描和回表量大,延迟仍高调整字段顺序或查询条件
有索引但无法覆盖排序或过滤IXSCAN 后出现大量 FETCH 或 SORT读取文档和排序开销明显评估复合索引或投影

例如查询同时使用租户、状态、时间范围并按时间倒序:

db.orders.find({
  tenantId: "tenant-a",
  status: "PAID",
  createdAt: {
    $gte: ISODate("2025-01-01T00:00:00Z"),
    $lt: ISODate("2025-02-01T00:00:00Z")
  }
}).sort({ createdAt: -1 }).limit(20)

可以把以下索引作为候选进行验证:

db.orders.createIndex(
  {
    tenantId: 1,
    status: 1,
    createdAt: -1
  },
  {
    name: "idx_orders_tenant_status_created_desc"
  }
)

这只是根据查询形状形成的候选,不代表所有数据分布都适合该顺序。通常需要把高选择性的等值过滤字段放在前面,再结合排序和范围字段安排顺序,但最终应以执行计划、数据分布和实际写入成本验证。索引字段越多,写入、更新、磁盘占用和缓存压力也可能增加。

用执行统计验证候选索引

如果索引已经存在,可先用 hint 做对照测试:

db.orders.find({
  tenantId: "tenant-a",
  status: "PAID",
  createdAt: {
    $gte: ISODate("2025-01-01T00:00:00Z"),
    $lt: ISODate("2025-02-01T00:00:00Z")
  }
})
.sort({ createdAt: -1 })
.limit(20)
.hint("idx_orders_tenant_status_created_desc")
.explain("executionStats")

对比重点包括:

  • COLLSCAN 是否变为符合预期的 IXSCAN;
  • totalDocsExamined 是否接近 nReturned;
  • totalKeysExamined 是否明显下降;
  • SORT 是否消失或排序代价降低;
  • 服务端执行时间是否下降;
  • MongoDB 主机的读 I/O、CPU 和缓存淘汰是否同步缓解。

如果加了候选索引后 executionTimeMillis 下降,但 totalKeysExamined 仍然远大于返回量,说明索引可能只是绕开了全集合扫描,字段选择性或顺序仍不理想。此时不应直接把第一次建立的索引视为最终方案。

变更索引时控制影响范围

创建索引不是无成本操作。索引构建会消耗 CPU、内存和磁盘 I/O,大集合可能持续较长时间,写入繁忙的 MongoDB 实例还可能出现延迟波动。执行前应确认:

  • 已有备份或可恢复副本;
  • 目标集合、数据量和磁盘剩余空间已核对;
  • 操作安排在可观察的变更窗口;
  • 已确认索引名称不会覆盖已有设计;
  • 副本集、分片集群和 MongoDB 版本的索引构建行为符合当前环境;
  • 已准备好停止或回退方案。

MongoDB 版本支持隐藏索引时,可以先创建隐藏索引,避免优化器立即使用:

db.orders.createIndex(
  {
    tenantId: 1,
    status: 1,
    createdAt: -1
  },
  {
    name: "idx_orders_tenant_status_created_desc_test",
    hidden: true
  }
)

隐藏索引仍然需要构建资源,不能理解为“零影响测试”。如果版本不支持 hidden,应先核验版本,不要直接照搬配置。也可以在受控环境中建立索引后通过 explain 对照,不要在高峰期反复创建和删除索引。

确认索引有效后再使其可见,相关命令同样需要根据版本和权限验证:

db.runCommand({
  collMod: "orders",
  index: {
    name: "idx_orders_tenant_status_created_desc_test",
    hidden: false
  }
})

如果验证失败,需要回滚自己新增的索引,而不是随意删除线上已有索引:

db.orders.dropIndex("idx_orders_tenant_status_created_desc_test")

删除前应确认没有其他查询依赖该索引,并保留变更记录和备份。索引删除会改变后续查询的计划,可能立即引发新的慢查询。

用复测结果形成因果判断

索引是否解决问题,不能只看单次命令返回得更快。应在接近原始负载的条件下复测,并把前后指标放在同一张表中:

指标建索引前建索引后解释
查询 p95820 ms110 ms尾部延迟明显下降
executionTimeMillis760 ms48 ms数据库执行本身变快
nReturned2020返回结果规模一致
totalDocsExamined1,850,00027扫描范围大幅收缩
totalKeysExamined035由集合扫描转为少量索引扫描
磁盘读延迟26 ms5 ms扫描造成的读压力缓解
连接池等待18 ms17 ms连接池不是主要变化来源
错误率0.8%0.1%超时或资源等待减少

这组数据是用于说明判断方法的模拟示例,不代表实际监控结果。它之所以支持“索引缺失是主要原因”,不是因为响应时间从 820 毫秒变成 110 毫秒,而是因为服务端执行时间、扫描文档数、磁盘读延迟和错误率同时改善,连接池等待基本不变,且返回数据量保持一致。

相反,若复测结果是:

  • 应用端 p95 从 800 毫秒降到 500 毫秒;
  • MongoDB executionTimeMillis 仍约 450 毫秒;
  • docsExamined 基本不变;
  • 连接池等待从 300 毫秒降到 20 毫秒;

那么主要改善来自连接池配置或并发变化,不能把结果归功于索引。

如果建立索引后数据库执行时间下降,但整体接口仍慢,应继续拆分网络、连接池、应用序列化和返回数据大小。索引只负责改变查询访问路径,不会自动解决香港服务器与远端应用之间的网络延迟,也不会消除应用线程池排队。

下一次应同时观察的指标组合

下一次遇到类似慢查询时,不要只截取一条 MongoDB 日志或一张 CPU 图。建议以同一时间戳关联以下组合:

下一次应同时观察的指标组合配图

  • 查询结果组合:查询形状、参数范围、p95/p99、超时率、错误率;
  • 执行计划组合:winningPlan、executionTimeMillis、nReturned、totalDocsExamined、totalKeysExamined;
  • 资源组合:CPU 用户态和系统态、磁盘读写延迟、I/O 队列、内存可用量、WiredTiger 缓存淘汰;
  • 并发组合:连接池等待、当前连接数、活动操作数、应用线程队列、MongoDB 操作等待;
  • 网络组合:应用到香港服务器的往返耗时、服务端执行耗时、响应体大小、重传或丢包;
  • 变更组合:索引创建时间、数据量增长、备份任务、版本升级和查询代码变更。

当慢查询时间、COLLSCAN 或高扫描量、资源压力和查询队列在同一窗口内同步出现,并且新增或调整索引后这些指标共同回落,才可以较有把握地判断索引是主要瓶颈。若只有应用延迟变化而数据库执行计划和扫描量稳定,则应把排查重点放回连接池、网络、I/O 争用或应用处理链路。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/3511.html

相关推荐