香港服务器部署在线考试系统,如何估算并发和带宽余量?
香港服务器部署在线考试系统时,容量估算不能只看报名人数或服务器带宽标称值。应先得到考试高峰期的有效并发人数,再把登录、试题加载、答题保存、交卷和成绩查询分别换算为请求速率、数据量和响应时间,最后以压测得到的稳定承载能力为基础保留增长余量。
一个可执行的估算关系是:峰值请求量约等于有效并发人数乘以单个考生的平均请求频率,再乘以启动、交卷等场景的突发系数;峰值带宽约等于单位时间内的请求数量乘以平均响应数据量。容量是否足够,还要同时检查 CPU、内存、数据库写入、磁盘延迟、连接数和网络出口,不能用单一的 Mbps 数值替代完整容量判断。
先建立在线考试的负载画像
报名人数不等于服务器并发
在线考试通常至少存在四个容易混淆的数字:
- 报名人数:创建了考试记录的全部人员数量。
- 在线人数:已经打开页面、但不一定正在发起请求的会话数量。
- 有效并发人数:在同一时间段内持续进行加载、答题、保存或交卷操作的人数。
- 请求并发数:某一时刻仍在服务器处理中的请求数量。
例如,报名人数为5000人,并不意味着5000人会在同一秒打开试卷。即使有2000个浏览器保持在线,考生也可能分别处于阅读题目、输入答案和等待保存等状态。容量规划应以考试开始、阶段性提醒、交卷前后等高峰时段的有效并发为基础。
请求并发数还与响应时间有关。按照排队系统中的常用关系:
请求并发数 ≈ 每秒请求数 × 平均响应时间(秒)
如果系统每秒处理200个请求,平均响应时间为0.5秒,那么平均在途请求约为100个;如果响应时间升至2秒,在请求速率不变时,在途请求就可能增加到400个,应用线程、连接池和内存压力会随之上升。
按考试阶段拆分请求
不同阶段占用的资源并不相同。可以先制作一张负载画像表,再将每一类行为单独压测。
| 阶段 | 典型行为 | 请求特征 | 主要资源关注点 |
|---|---|---|---|
| 登录与进入考试 | 登录、验证码校验、获取考试信息 | 短时间集中到达,突发性强 | 应用 CPU、认证服务、数据库连接 |
| 试卷加载 | 获取题目、选项、图片或附件 | 响应数据较大,容易形成带宽峰值 | 网络出口、静态资源、缓存 |
| 答题过程 | 切换题目、保存答案、心跳 | 请求频率相对稳定,写请求持续发生 | 应用线程、数据库写入、连接池 |
| 考试提醒 | 倒计时、自动保存、状态刷新 | 多个考生在相近时间触发 | 定时任务、缓存、数据库锁 |
| 交卷 | 提交答案、校验、生成记录 | 短时间写入集中,可能伴随计算 | 数据库写入、事务、队列和 CPU |
| 成绩查询 | 查询分数、错题、统计结果 | 读请求可能在交卷后集中 | 数据库读性能、缓存、报表计算 |
如果试卷包含大量图片、音频、视频或下载附件,试卷加载阶段通常会成为网络瓶颈;如果主要是文字题和少量选项,带宽压力可能不高,但自动保存和交卷会把压力转移到数据库写入。
把并发转换为请求速率
用用户行为频率估算基础 RPS
可以为每类操作设置一个单位时间请求频率。设有效并发考生数为 N,单个考生平均每秒产生的请求数为 q,则基础请求速率可以写为:
基础 RPS = N × q
在线考试中的 q 不应直接按页面数量计算,而应按实际行为计算。例如:
- 每位考生每30秒自动保存一次答案,平均频率约为
1/30次/秒; - 每位考生每10秒产生一次心跳,频率约为
1/10次/秒; - 页面切换、选项保存和题目加载属于不定期请求,应从操作脚本或历史日志中统计;
- 交卷请求不能简单平均到整场考试,应单独按交卷时间窗口估算。
以一个明确的示例说明:假设考试高峰有2000名有效并发考生,每人平均每30秒触发一次自动保存,同时每10秒发送一次心跳,暂不计入题目切换请求:
- 自动保存:
2000 ÷ 30 ≈ 66.7 RPS - 心跳:
2000 ÷ 10 = 200 RPS - 基础合计:约
266.7 RPS
这个结果只代表持续平均负载。若心跳和自动保存由同一时间点调度,实际峰值可能高于平均值,因此需要增加突发系数。突发系数可以根据历史日志或压测观察确定,初步规划时可使用1.5至3倍的范围进行场景推演,但不能把该范围当成系统实际承载能力。
区分平均请求和峰值请求
考试开始、倒计时提醒和交卷阶段不适合使用整场平均值。可以采用以下方式分别计算:
峰值 RPS = 有效并发人数 × 单用户频率 × 突发系数
例如,2000名考生在60秒内陆续交卷,每次交卷请求及相关校验平均产生4个后端请求,则交卷相关请求量为:
2000 × 4 ÷ 60 ≈ 133.3 RPS
如果其中一半考生集中在20秒内提交,则峰值约为:
1000 × 4 ÷ 20 = 200 RPS
此时还要叠加仍在运行的心跳、自动保存和成绩状态查询。压测脚本必须保留这些背景请求,否则只压交卷接口,得到的结果会偏乐观。
估算带宽时拆开上下行数据
请求数量和响应大小要分别计算
在线考试的带宽主要由以下几类数据组成:
- HTML、JavaScript、CSS和字体等前端资源。
- 试题、选项、图片、音频或视频。
- 自动保存和交卷请求的请求体。
- 接口响应、心跳响应和成绩页面。
- 管理端导入、导出或批量生成试卷产生的后台流量。
使用十进制单位时,带宽估算可以写成:
带宽(Mbps)= 每秒传输数据量(MB/s)× 8
如果按请求数量计算:
带宽(Mbps)= RPS × 单次响应大小(KB)× 8 ÷ 1000
其中,MB、KB是十进制数据单位,Mb、Mbps表示比特。不能把MB直接当成Mb使用。
示例:试卷加载和自动保存分别估算
设有1200名考生在120秒内加载试卷,每人从服务器获取约1.5 MB的题目和图片资源,则平均出口数据量为:
1200 × 1.5 MB ÷ 120秒 = 15 MB/s
15 × 8 = 120 Mbps
这只是试卷加载阶段的平均值。如果实际集中在60秒内完成加载,带宽需求会变为:
1200 × 1.5 MB ÷ 60秒 × 8 = 240 Mbps
再看自动保存:假设2000名考生每30秒上传一次2 KB的答案数据,则平均上行数据量约为:
2000 × 2 KB ÷ 30秒 ≈ 133.3 KB/s
133.3 × 8 ÷ 1000 ≈ 1.07 Mbps
自动保存本身的带宽不高,但它会产生大量数据库写入和事务操作。若答案中包含图片、音频或文件上传,带宽和磁盘容量都需要重新计算,不能继续沿用文字答案的估算。

| 流量类型 | 示例计算 | 可能的主要瓶颈 |
|---|---|---|
| 试题页面和图片 | 1200人 × 1.5 MB ÷ 60秒 × 8 | 网络出口、静态资源处理 |
| 自动保存 | 2000人 × 2 KB ÷ 30秒 × 8 | 数据库写入、连接池 |
| 交卷数据 | 1000人 × 20 KB ÷ 20秒 × 8 | 事务、接口并发、数据库锁 |
| 成绩页面 | 查询人数 × 响应大小 ÷ 查询窗口 × 8 | 数据库读取、报表计算 |
| 音视频题目 | 文件总大小 ÷ 播放或加载窗口 × 8 | 出口带宽、磁盘或对象存储 |
香港服务器的网络出口、线路方向、带宽计费方式和是否允许突发使用,需要以具体资源方案的实际约定为准。带宽标称值只能说明网络接口或套餐上限,不能直接代表考生所在地访问时的稳定吞吐。若考生分布在中国内地、香港或其他地区,应分别从实际运营商网络进行测试,因为跨地域链路的延迟、丢包和路由变化会影响页面加载时间。
在线考试系统的应用服务、数据库与试卷资源,对计算、存储和网络都有持续需求。A5idc数据提供香港物理服务器,涵盖Xeon Gold、AMD EPYC等平台,并有搭配NVMe存储及CN2或国际带宽的不同配置,可用于承载考试业务后台、接口服务和数据读写,为面向香港及跨境考生的部署提供相应资源选择。
把资源变量纳入容量模型
CPU和应用层
CPU消耗通常来自登录校验、试卷组装、权限判断、答案校验、成绩计算和序列化响应。相同的RPS下,返回固定缓存内容与执行复杂数据库查询,CPU占用可能有明显差别。
容量估算时应记录:
- 应用实例的总CPU利用率和单核利用率;
- 请求队列长度、工作线程数和线程等待时间;
- 平均响应时间、P95和P99响应时间;
- 5xx错误、超时、连接拒绝和重试次数;
- 应用实例之间是否存在负载不均。
如果总CPU利用率不高,但某一个核心长期接近满载,可能是单线程任务、加密校验或同步计算造成的瓶颈。此时增加总核心数未必立即有效,需要检查应用进程模型和任务并行度。
内存、连接池和文件缓存
在线考试常见的内存压力来自大量会话、试卷缓存、并发响应和连接池配置。需要观察:
- 应用进程常驻内存及其增长趋势;
- 数据库连接池的活动连接、空闲连接和等待连接;
- Redis或其他缓存的命中率、内存使用量和淘汰情况;
- 系统是否发生交换分区使用;
- 文件缓存是否挤压应用可用内存。
连接池不是越大越好。应用连接池数量过多,可能把压力转移到数据库,导致数据库连接耗尽。规划时应让应用实例总连接数、数据库最大连接数和后台任务连接数保持对应关系,并为管理端和故障恢复保留一部分连接余量。
数据库读写和磁盘延迟
自动保存通常是高频小写入,交卷则可能包含多表写入、事务提交和成绩计算。数据库容量判断不能只看CPU,还要关注:
- 每秒提交事务数;
- 数据库写入延迟和锁等待;
- 慢查询数量及其扫描行数;
- 索引命中率和临时表使用;
- 磁盘IOPS、吞吐量和平均等待时间;
- 备份、报表和导出任务是否与考试高峰重叠。
如果答案保存接口P95响应时间变长,同时数据库锁等待和磁盘写延迟上升,优先检查事务范围、索引和写入模型,而不是先增加应用服务器。交卷涉及成绩一致性时,也不能为了提高吞吐量而随意取消事务或降低数据校验。
网络出口和静态资源
若试题图片、音频和前端资源全部从香港服务器返回,网络出口可能在考试开始时先达到上限。可以将静态资源、动态接口和文件上传分别统计:
- 静态资源是否设置缓存;
- 接口响应是否被错误地缓存;
- 图片和音频的平均大小及加载并发;
- 上传流量和下载流量是否共用同一出口;
- 套餐是固定带宽、共享带宽还是按流量计费;
- 带宽达到上限时是否出现丢包、重传或连接排队。
将静态资源放到独立的缓存或分发层,可以降低应用实例和数据库的压力,但不能自动解决交卷接口和数据库写入瓶颈。动态接口仍需按照实际峰值单独压测。
用压测判断真正的瓶颈
压测场景要贴近考试流程
压测数据应使用脱敏的试卷结构和接近真实大小的题目资源,至少覆盖以下场景:
- 阶梯加压:从较低并发逐步增加,记录每个阶段的RPS、P95、P99和资源使用率。
- 启动峰值:模拟考生在短时间内登录、获取考试信息和加载试卷。
- 持续答题:保持一段时间的心跳、自动保存、题目切换和随机停留。
- 交卷峰值:让一部分考生在较短窗口内提交答案,同时保留背景请求。
- 恢复观察:峰值结束后继续观察队列、数据库连接、缓存和磁盘是否能够恢复。
压测时不能让所有虚拟用户执行完全相同的脚本,否则会得到不自然的同步峰值;也不能让所有用户随机到毫无规律,否则无法复现交卷和自动保存的高峰。更合理的方式是同时保留固定比例的登录、持续答题、自动保存和交卷用户。
设定可验收的指标
以下范围可作为初步规划参考,具体值应按考试业务对实时性的要求调整:
| 指标 | 规划参考 | 说明 |
|---|---|---|
| 动态接口P95 | 300至800毫秒 | 登录、保存、状态查询可分别设定 |
| 动态接口P99 | 不高于P95的2至3倍 | 重点观察长尾请求 |
| 错误率 | 接近0,且无持续增长 | 超时、连接拒绝也应计入 |
| 应用CPU | 持续峰值尽量低于70% | 为突发和后台任务保留余量 |
| 内存 | 持续使用尽量低于75% | 观察是否有泄漏或交换 |
| 数据库连接池 | 持续使用低于70%至80% | 需保留管理和恢复连接 |
| 网络出口 | 峰值尽量低于承诺上限的70%至80% | 预留链路波动和突发空间 |
这些不是某台香港服务器的实测承诺,而是用于制定验收线的参考区间。如果考试允许题目加载在2秒内完成、但自动保存必须快速返回,就应为这两类请求设置不同的目标,不能用一个总平均响应时间掩盖保存接口的长尾。
根据资源现象定位瓶颈
可以把压测结果按“指标同时变化”的关系判断:
- CPU接近上限,响应时间随RPS同步上升:可能是应用计算、序列化或加密处理不足。
- CPU不高,但数据库连接等待增加:重点检查慢查询、连接池和事务锁。
- 网络出口接近上限,静态资源加载变慢:检查资源大小、缓存命中和带宽配置。
- 内存逐步上涨且压测结束后不恢复:检查会话、缓存、文件处理和应用对象释放。
- P99明显升高而平均值正常:可能存在少量慢查询、锁等待、GC停顿或网络重传。
- 单台应用正常,多台应用时错误增加:检查会话共享、负载均衡、缓存一致性和数据库连接总量。
- 香港节点服务器指标正常,但部分地区访问变慢:应从不同运营商和地区验证链路延迟、丢包与解析结果,不能只看服务器内部监控。
用容量余量推算增长空间
以稳定承载能力而不是峰值极限规划
压测中达到的最高RPS不一定是可用容量。更适合规划的是:在响应时间、错误率和资源利用率均符合目标时,系统能够持续处理的稳定RPS。
设压测得到的稳定容量为300 RPS,计划保留30%的安全余量,则可用于日常容量规划的RPS为:
300 ×(1 - 30%)= 210 RPS
如果预计下一场考试的峰值需求为180 RPS,表面上还有30 RPS空间;但还要确认网络、数据库和应用层是否都同时满足余量要求。若数据库在180 RPS时已经达到85%连接使用率,系统整体容量仍应按数据库这一瓶颈重新判断。
也可以用资源余量表示:
余量比例 =(稳定容量 - 预计峰值)÷ 稳定容量
例如稳定容量为300 RPS、预计峰值为180 RPS,则余量为:
(300 - 180)÷ 300 = 40%
这个40%只是请求速率维度的结果。静态资源加载、交卷事务和后台报表可能分别有自己的容量上限,因此应按资源类型分别核算,最后取最小值。
将增长率放进预测公式
如果当前峰值为P,月增长率为g,规划周期为t个月,可以用以下关系估算未来峰值:
未来峰值 = P ×(1 + g)^t
例如,当前峰值为180 RPS,按每月20%的增长率规划6个月:
180 × 1.2^6 ≈ 538 RPS
这只是数学推演,不代表实际考试人数一定按该速度增长。考试批次、同时开考数量、试卷资源大小和交卷集中度都可能改变结果。增长率应优先来自历史考试记录、预约人数和开考时间安排;没有历史数据时,可以用多个情景分别计算,而不是只采用一个看似精确的数字。
确定香港服务器的扩容触发点
扩容不宜等到考试当天出现超时才决定,也不宜仅因一次短暂CPU波动就扩大资源。可以把触发条件分成容量预测、持续监控和事件预警三类。
容量预测触发
当未来一个规划周期的预计峰值超过压测稳定容量的70%至80%,就应启动复测和扩容评估。若静态资源加载已占用大部分带宽,而动态接口仍有余量,可优先拆分静态资源;若应用CPU充足但数据库写入达到上限,则应先优化写入和数据库资源,而不是盲目增加应用实例。
持续监控触发
以下条件适合作为连续窗口的评估线:
- CPU或单核利用率超过70%,并持续多个监控周期;
- 内存超过75%,且回收后仍持续增长;
- 数据库连接池、锁等待或磁盘延迟连续升高;
- 网络出口超过承诺带宽的70%至80%;
- 动态接口P95连续超过业务目标;
- 错误率、超时率或队列长度持续高于基线。
“连续”应结合监控粒度确定,例如连续5至15分钟,或者连续多个业务采样窗口。对于交卷这类短时峰值,可以单独记录峰值、持续时间和恢复时间,不能只用全天平均值掩盖瞬时拥塞。
扩容前必须再次确认
准备增加香港服务器资源或拆分节点前,应核对:
- 预计峰值是人数增长,还是请求频率、题目大小发生变化;
- 增加应用实例后,数据库是否能承受新增写入;
- 带宽是服务器出口不足,还是实际链路存在丢包和延迟;
- 静态资源是否可以缓存,动态接口是否存在重复查询;
- 扩容后会话、缓存、文件和任务队列是否支持多实例;
- 是否需要保留独立的管理端和备份资源,避免后台任务争用考试资源。
最终的监控面板应同时展示有效在线人数、各类接口RPS、P50/P95/P99响应时间、错误率、CPU、内存、数据库连接、锁等待、磁盘延迟、网络上下行和队列长度。用这些数据回填负载模型,重新计算“预计峰值—稳定容量—安全余量”三者关系,才能确定何时扩容、扩哪一层,以及扩容后是否真正解决了瓶颈。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/6507.html



