云服务器怎样部署负载均衡并验证请求分发是否正常?
要让多台云服务器共同承接请求,可以在一台入口云服务器上部署 Nginx,将收到的 HTTP 请求转发到两台后端服务器。首次部署后,通过反复发送带唯一参数的请求,检查响应中的节点标识,确认请求确实到达不同后端;再停止一台后端服务,验证入口能否继续由另一台提供响应。
以下示例适用于同一云网络中的三台 Ubuntu 22.04/24.04 服务器:一台作为负载均衡入口,两台运行示例 Web 服务。入口节点有公网 IP,后端使用私网 IP。示例地址需替换为实际地址。该方案适合验证基本分发流程;入口本身仍是单点,生产环境需另行考虑入口高可用。

在多节点网站、接口服务和业务后台的部署中,A5idc数据提供中国香港、美国、日本、韩国、中国台湾、新加坡及马来西亚等地区的物理服务器资源,覆盖常规建站、AMD计算、不同带宽线路和多IP配置,可为入口节点与后端服务提供独立的CPU、内存、NVMe或大容量存储基础。结合不同访问地区与业务负载,品牌能够提供适配多节点架构的服务器资源组合,为负载分发、业务承载和后续扩展提供部署基础。
准备条件与网络规划
先确认三台服务器位于同一 VPC 或可互通的私有网络,并记录入口和后端的私网 IP。配置云防火墙或安全组时,按最小开放原则设置:
| 位置 | 端口 | 来源 | 用途 |
|---|---|---|---|
| 入口服务器 | TCP 80 | 需要访问服务的客户端网段 | 接收 HTTP 请求 |
| 后端服务器 | TCP 8080 | 仅入口服务器的私网 IP 或安全组 | 提供应用服务 |
| 三台服务器 | TCP 22 | 管理员固定 IP 或管理网段 | SSH 运维 |
不要将后端的 8080 端口开放给整个公网。SSH 也应限制来源范围。若服务器还启用了系统防火墙,需确认对应规则与云安全组同时允许所需流量。
示例中使用以下地址作为占位值:
- 入口公网 IP:
203.0.113.10 - 入口私网 IP:
10.0.1.10 - 后端 A 私网 IP:
10.0.1.11 - 后端 B 私网 IP:
10.0.1.12
这些地址是文档示例,部署时应替换为云平台分配的实际地址。入口到后端的连通性应使用私网地址,不要让后端依赖公网访问入口。
逐步部署与验证
1. 配置网络访问
先在云平台的安全组或防火墙规则中,允许客户端访问入口的 TCP 80,并允许入口私网地址访问后端的 TCP 8080。后端不需要向公网开放 8080。
规则保存后,在入口服务器上测试到后端的网络连通性。此时应用尚未启动,连接失败并不一定表示网络规则有误;待后端服务启动后再做完整验证。若云平台提供网络连通性诊断功能,也可以用它检查入口私网地址到后端私网地址的路由。
2. 在两台后端部署示例服务
在后端 A、B 分别执行以下命令。脚本会返回节点标识,方便观察请求分配到了哪台机器。
sudo apt update
sudo apt install -y python3 curl
sudo install -d -o root -g root -m 0755 /opt/lb-demo
sudo tee /opt/lb-demo/app.py >/dev/null <<'PY'
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
import os
import socket
NODE_ID = os.environ.get("NODE_ID", "unknown")
class Handler(BaseHTTPRequestHandler):
def do_GET(self):
if self.path == "/health":
body = f"ok node={NODE_ID}\n".encode()
else:
body = (
f"node={NODE_ID} "
f"host={socket.gethostname()} "
f"path={self.path}\n"
).encode()
self.send_response(200)
self.send_header("Content-Type", "text/plain; charset=utf-8")
self.send_header("Content-Length", str(len(body)))
self.send_header("Cache-Control", "no-store")
self.send_header("Connection", "close")
self.end_headers()
self.wfile.write(body)
self.close_connection = True
def log_message(self, fmt, *args):
super().log_message(fmt, *args)
ThreadingHTTPServer(("0.0.0.0", 8080), Handler).serve_forever()
PY
创建 systemd 服务。两台机器的配置相同,但节点标识要分别设置:后端 A 使用 node-a,后端 B 使用 node-b。
sudo tee /etc/systemd/system/lb-demo.service >/dev/null <<'UNIT'
[Unit]
Description=Load balancing demo backend
After=network.target
[Service]
Type=simple
User=www-data
Group=www-data
Environment=NODE_ID=node-a
WorkingDirectory=/opt/lb-demo
ExecStart=/usr/bin/python3 /opt/lb-demo/app.py
Restart=on-failure
RestartSec=2
[Install]
WantedBy=multi-user.target
UNIT
在后端 B 上,编辑刚创建的服务文件,将 Environment=NODE_ID=node-a 改为 Environment=NODE_ID=node-b。然后分别启动服务:
sudo systemctl daemon-reload
sudo systemctl enable --now lb-demo
sudo systemctl is-active lb-demo
curl -sS http://127.0.0.1:8080/health
预期 is-active 输出 active,后端 A 返回 ok node=node-a,后端 B 返回 ok node=node-b。若本机访问失败,先在该服务器上检查服务状态和日志:
sudo systemctl status lb-demo --no-pager
sudo journalctl -u lb-demo -n 50 --no-pager
sudo ss -lntp | grep ':8080'
ss 中应能看到 Python 服务监听 0.0.0.0:8080。若服务只监听在 127.0.0.1,入口就无法通过私网地址访问;示例脚本已绑定到 0.0.0.0,但仍应依靠安全组限制访问来源。
3. 在入口服务器安装并配置 Nginx
在入口服务器安装 Nginx 和测试工具:
sudo apt update
sudo apt install -y nginx curl
先从入口直接访问两台后端的健康检查地址:
curl -sS --max-time 3 http://10.0.1.11:8080/health
curl -sS --max-time 3 http://10.0.1.12:8080/health
分别得到 ok node=node-a 和 ok node=node-b,说明入口到后端的应用端口可达。若连接超时,优先检查安全组、系统防火墙、私网地址和路由;若返回拒绝连接,通常应检查后端服务是否已启动、是否正在监听 8080。
在标准 Ubuntu Nginx 安装中,默认站点通常会作为未匹配请求的兜底站点。下面的配置使用入口公网 IP 作为 server_name,请求直接访问该 IP 时可匹配新站点。若使用域名,请将其替换为实际域名。
创建配置文件;若同名文件已经存在,先检查并备份,不要直接覆盖现有业务配置。
sudo tee /etc/nginx/sites-available/lb-demo >/dev/null <<'NGINX'
upstream app_pool {
server 10.0.1.11:8080 max_fails=1 fail_timeout=10s;
server 10.0.1.12:8080 max_fails=1 fail_timeout=10s;
}
server {
listen 80;
server_name 203.0.113.10;
location = /nginx-health {
access_log off;
default_type text/plain;
return 200 "ok\n";
}
location / {
proxy_pass http://app_pool;
proxy_http_version 1.1;
proxy_set_header Connection close;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_connect_timeout 3s;
proxy_read_timeout 30s;
proxy_next_upstream error timeout http_502 http_503 http_504;
proxy_next_upstream_tries 2;
}
}
NGINX
将配置中的 203.0.113.10 换成入口公网 IP;将两个 10.0.1.x 地址换成后端私网 IP。启用新站点并检查配置:
sudo ln -s /etc/nginx/sites-available/lb-demo /etc/nginx/sites-enabled/lb-demo
sudo nginx -t
只有看到配置测试成功后,才重新加载 Nginx:
sudo systemctl enable --now nginx
sudo systemctl reload nginx
sudo systemctl is-active nginx
配置测试成功且服务状态为 active 后,先检查入口自身的 Nginx 健康地址:
curl -i http://203.0.113.10/nginx-health
预期响应状态为 200,正文为 ok。这个地址只检查 Nginx 是否能返回响应,并不代表后端服务正常;端到端验证还需访问转发路径。
4. 验证请求分发
通过入口访问健康路径和普通请求:
curl -sS http://203.0.113.10/health
curl -sS http://203.0.113.10/
/health 应由后端返回节点标识,普通路径则应返回类似 node=node-a host=... 的内容。若只看到 Nginx 自身的默认页面,检查请求使用的 IP 或域名是否与 server_name 一致,以及新站点是否已启用。
接着连续发送多次请求,并统计每台后端返回的次数:
for i in $(seq 1 20); do
curl -sS --max-time 3 -H 'Connection: close' \
"http://203.0.113.10/?n=$i"
done | sort | uniq -c
正常情况下,结果中应同时出现 node-a 和 node-b。示例输出可能类似:
10 node=node-a host=backend-a path=/?n=1
10 node=node-b host=backend-b path=/?n=2
上面的计数仅用于说明输出形式,并非固定验收值。Nginx 在未指定其他策略时采用轮询方式,但少量请求、请求间隔、并发状态和节点健康情况都会影响统计结果;验证重点是健康节点都能收到请求,而不是要求小样本恰好各占一半。客户端或中间缓存也可能让重复访问看起来相同,因此测试中使用了变化的查询参数,并要求关闭客户端连接。
5. 验证单台后端不可用时的响应
在确认两台后端都能正常提供服务后,可短暂停止后端 B,检查入口是否还能转发到后端 A。此操作会使后端 B 暂时停止接收业务请求,只应在测试环境或已确认可承受短暂影响时执行。
在后端 B 上运行:
sudo systemctl stop lb-demo
从入口直接访问后端 B 应失败;随后连续访问入口:
curl -sS --max-time 3 http://10.0.1.12:8080/health
curl -sS --max-time 5 http://203.0.113.10/
第一条命令失败是预期结果;第二条应能从后端 A 得到响应。恢复后端 B:
sudo systemctl start lb-demo
sudo systemctl is-active lb-demo
待服务恢复后再次访问入口,确认 node-b 重新出现在响应中。配置里的 max_fails 和 fail_timeout 使用 Nginx 的被动失败判定:只有请求过程中出现连接错误、超时或指定的错误状态,Nginx 才会暂时避开相关节点。这不是主动健康探测;短暂停止期间没有请求时,入口不会提前发现故障。

常见异常处理
按请求路径由外向内检查,避免一开始就改动应用或防火墙配置。
| 现象 | 优先检查 | 处理方向 |
|---|---|---|
| 客户端无法连接入口 | 云安全组 TCP 80、入口公网 IP、Nginx 服务状态 | 确认入口规则允许客户端来源访问;检查 sudo systemctl status nginx --no-pager |
| 入口返回默认页面 | 请求 Host、server_name、站点链接 | 检查访问 IP 或域名是否与配置一致,再运行 sudo nginx -T 查看实际加载的配置 |
| 入口报 502 或 504 | 后端监听地址、8080 访问规则、应用状态 | 在入口执行后端 curl,并查看 Nginx 错误日志和后端服务日志 |
| 多次请求只看到一个节点 | 另一节点是否健康、配置是否已加载、请求是否命中该入口 | 分别直连两台后端检查;运行 sudo nginx -t,成功后重新加载 |
| 改配置后 Nginx 无法重载 | 配置语法、重复的监听设置、文件权限 | 先运行 sudo nginx -t;修复配置后再重载,不要在测试失败时强制重启 |
查看入口错误日志和后端服务日志:
sudo tail -n 50 /var/log/nginx/error.log
sudo journalctl -u lb-demo -n 50 --no-pager
检查连接情况:
sudo ss -lntp | grep -E ':80|:8080'
如果入口本机访问后端正常,但经由公网访问失败,问题通常位于客户端到入口的安全组、路由或站点匹配环节;如果入口无法直连后端,则先处理后端服务监听和私网访问规则。不要为了排查方便而将后端 8080 临时开放给整个公网。
验收与回滚检查
部署完成后,逐项确认:
- 两台后端的
lb-demo服务均为active,且/health返回各自的节点标识。 - 入口可以通过后端私网 IP 访问两台服务的 8080 端口。
nginx -t通过,Nginx 服务为active,入口 HTTP 请求能返回后端内容。- 多次带不同查询参数的请求中,能观察到两个节点的响应。
- 停止一台后端时,另一台仍能响应;重新启动后,停止的节点能够重新参与分发。
- 安全组没有将后端 8080 暴露给不必要的来源。
如需撤销本次 Nginx 配置,只删除本教程创建的站点链接;确认文件确为本次创建且未被其他配置复用后,再选择是否删除配置文件。执行前记录当前配置状态,避免影响已有站点:
sudo unlink /etc/nginx/sites-enabled/lb-demo
sudo nginx -t && sudo systemctl reload nginx
该操作不会删除默认站点;新站点移除后,Nginx 会按剩余配置处理请求。回滚后可用 systemctl status nginx --no-pager 和入口访问测试确认服务状态。若需要撤销后端服务,可先在对应后端停止并禁用本次创建的服务:
sudo systemctl disable --now lb-demo
同时在云安全组中仅移除本次新增的后端 8080 来源规则,不要清空其他业务规则。HTTP 示例未配置加密传输,不应承载敏感数据;正式提供公网服务前,应按实际域名和业务要求配置传输加密,并评估入口单点带来的可用性风险。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/9100.html



