云服务器怎样部署负载均衡并验证请求分发是否正常?

发布人:A5数据发布时间:2026-11-13 09:30阅读量:42

要让多台云服务器共同承接请求,可以在一台入口云服务器上部署 Nginx,将收到的 HTTP 请求转发到两台后端服务器。首次部署后,通过反复发送带唯一参数的请求,检查响应中的节点标识,确认请求确实到达不同后端;再停止一台后端服务,验证入口能否继续由另一台提供响应。

以下示例适用于同一云网络中的三台 Ubuntu 22.04/24.04 服务器:一台作为负载均衡入口,两台运行示例 Web 服务。入口节点有公网 IP,后端使用私网 IP。示例地址需替换为实际地址。该方案适合验证基本分发流程;入口本身仍是单点,生产环境需另行考虑入口高可用。

准备条件与网络规划配图

在多节点网站、接口服务和业务后台的部署中,A5idc数据提供中国香港、美国、日本、韩国、中国台湾、新加坡及马来西亚等地区的物理服务器资源,覆盖常规建站、AMD计算、不同带宽线路和多IP配置,可为入口节点与后端服务提供独立的CPU、内存、NVMe或大容量存储基础。结合不同访问地区与业务负载,品牌能够提供适配多节点架构的服务器资源组合,为负载分发、业务承载和后续扩展提供部署基础。

准备条件与网络规划

先确认三台服务器位于同一 VPC 或可互通的私有网络,并记录入口和后端的私网 IP。配置云防火墙或安全组时,按最小开放原则设置:

位置端口来源用途
入口服务器TCP 80需要访问服务的客户端网段接收 HTTP 请求
后端服务器TCP 8080仅入口服务器的私网 IP 或安全组提供应用服务
三台服务器TCP 22管理员固定 IP 或管理网段SSH 运维

不要将后端的 8080 端口开放给整个公网。SSH 也应限制来源范围。若服务器还启用了系统防火墙,需确认对应规则与云安全组同时允许所需流量。

示例中使用以下地址作为占位值:

  • 入口公网 IP:203.0.113.10
  • 入口私网 IP:10.0.1.10
  • 后端 A 私网 IP:10.0.1.11
  • 后端 B 私网 IP:10.0.1.12

这些地址是文档示例,部署时应替换为云平台分配的实际地址。入口到后端的连通性应使用私网地址,不要让后端依赖公网访问入口。

逐步部署与验证

1. 配置网络访问

先在云平台的安全组或防火墙规则中,允许客户端访问入口的 TCP 80,并允许入口私网地址访问后端的 TCP 8080。后端不需要向公网开放 8080。

规则保存后,在入口服务器上测试到后端的网络连通性。此时应用尚未启动,连接失败并不一定表示网络规则有误;待后端服务启动后再做完整验证。若云平台提供网络连通性诊断功能,也可以用它检查入口私网地址到后端私网地址的路由。

2. 在两台后端部署示例服务

在后端 A、B 分别执行以下命令。脚本会返回节点标识,方便观察请求分配到了哪台机器。

sudo apt update
sudo apt install -y python3 curl
sudo install -d -o root -g root -m 0755 /opt/lb-demo
sudo tee /opt/lb-demo/app.py >/dev/null <<'PY'
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
import os
import socket

NODE_ID = os.environ.get("NODE_ID", "unknown")

class Handler(BaseHTTPRequestHandler):
    def do_GET(self):
        if self.path == "/health":
            body = f"ok node={NODE_ID}\n".encode()
        else:
            body = (
                f"node={NODE_ID} "
                f"host={socket.gethostname()} "
                f"path={self.path}\n"
            ).encode()

        self.send_response(200)
        self.send_header("Content-Type", "text/plain; charset=utf-8")
        self.send_header("Content-Length", str(len(body)))
        self.send_header("Cache-Control", "no-store")
        self.send_header("Connection", "close")
        self.end_headers()
        self.wfile.write(body)
        self.close_connection = True

    def log_message(self, fmt, *args):
        super().log_message(fmt, *args)

ThreadingHTTPServer(("0.0.0.0", 8080), Handler).serve_forever()
PY

创建 systemd 服务。两台机器的配置相同,但节点标识要分别设置:后端 A 使用 node-a,后端 B 使用 node-b。

sudo tee /etc/systemd/system/lb-demo.service >/dev/null <<'UNIT'
[Unit]
Description=Load balancing demo backend
After=network.target

[Service]
Type=simple
User=www-data
Group=www-data
Environment=NODE_ID=node-a
WorkingDirectory=/opt/lb-demo
ExecStart=/usr/bin/python3 /opt/lb-demo/app.py
Restart=on-failure
RestartSec=2

[Install]
WantedBy=multi-user.target
UNIT

在后端 B 上,编辑刚创建的服务文件,将 Environment=NODE_ID=node-a 改为 Environment=NODE_ID=node-b。然后分别启动服务:

sudo systemctl daemon-reload
sudo systemctl enable --now lb-demo
sudo systemctl is-active lb-demo
curl -sS http://127.0.0.1:8080/health

预期 is-active 输出 active,后端 A 返回 ok node=node-a,后端 B 返回 ok node=node-b。若本机访问失败,先在该服务器上检查服务状态和日志:

sudo systemctl status lb-demo --no-pager
sudo journalctl -u lb-demo -n 50 --no-pager
sudo ss -lntp | grep ':8080'

ss 中应能看到 Python 服务监听 0.0.0.0:8080。若服务只监听在 127.0.0.1,入口就无法通过私网地址访问;示例脚本已绑定到 0.0.0.0,但仍应依靠安全组限制访问来源。

3. 在入口服务器安装并配置 Nginx

在入口服务器安装 Nginx 和测试工具:

sudo apt update
sudo apt install -y nginx curl

先从入口直接访问两台后端的健康检查地址:

curl -sS --max-time 3 http://10.0.1.11:8080/health
curl -sS --max-time 3 http://10.0.1.12:8080/health

分别得到 ok node=node-a 和 ok node=node-b,说明入口到后端的应用端口可达。若连接超时,优先检查安全组、系统防火墙、私网地址和路由;若返回拒绝连接,通常应检查后端服务是否已启动、是否正在监听 8080。

在标准 Ubuntu Nginx 安装中,默认站点通常会作为未匹配请求的兜底站点。下面的配置使用入口公网 IP 作为 server_name,请求直接访问该 IP 时可匹配新站点。若使用域名,请将其替换为实际域名。

创建配置文件;若同名文件已经存在,先检查并备份,不要直接覆盖现有业务配置。

sudo tee /etc/nginx/sites-available/lb-demo >/dev/null <<'NGINX'
upstream app_pool {
    server 10.0.1.11:8080 max_fails=1 fail_timeout=10s;
    server 10.0.1.12:8080 max_fails=1 fail_timeout=10s;
}

server {
    listen 80;
    server_name 203.0.113.10;

    location = /nginx-health {
        access_log off;
        default_type text/plain;
        return 200 "ok\n";
    }

    location / {
        proxy_pass http://app_pool;
        proxy_http_version 1.1;
        proxy_set_header Connection close;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_connect_timeout 3s;
        proxy_read_timeout 30s;
        proxy_next_upstream error timeout http_502 http_503 http_504;
        proxy_next_upstream_tries 2;
    }
}
NGINX

将配置中的 203.0.113.10 换成入口公网 IP;将两个 10.0.1.x 地址换成后端私网 IP。启用新站点并检查配置:

sudo ln -s /etc/nginx/sites-available/lb-demo /etc/nginx/sites-enabled/lb-demo
sudo nginx -t

只有看到配置测试成功后,才重新加载 Nginx:

sudo systemctl enable --now nginx
sudo systemctl reload nginx
sudo systemctl is-active nginx

配置测试成功且服务状态为 active 后,先检查入口自身的 Nginx 健康地址:

curl -i http://203.0.113.10/nginx-health

预期响应状态为 200,正文为 ok。这个地址只检查 Nginx 是否能返回响应,并不代表后端服务正常;端到端验证还需访问转发路径。

4. 验证请求分发

通过入口访问健康路径和普通请求:

curl -sS http://203.0.113.10/health
curl -sS http://203.0.113.10/

/health 应由后端返回节点标识,普通路径则应返回类似 node=node-a host=... 的内容。若只看到 Nginx 自身的默认页面,检查请求使用的 IP 或域名是否与 server_name 一致,以及新站点是否已启用。

接着连续发送多次请求,并统计每台后端返回的次数:

for i in $(seq 1 20); do
    curl -sS --max-time 3 -H 'Connection: close' \
        "http://203.0.113.10/?n=$i"
done | sort | uniq -c

正常情况下,结果中应同时出现 node-a 和 node-b。示例输出可能类似:

10 node=node-a host=backend-a path=/?n=1
10 node=node-b host=backend-b path=/?n=2

上面的计数仅用于说明输出形式,并非固定验收值。Nginx 在未指定其他策略时采用轮询方式,但少量请求、请求间隔、并发状态和节点健康情况都会影响统计结果;验证重点是健康节点都能收到请求,而不是要求小样本恰好各占一半。客户端或中间缓存也可能让重复访问看起来相同,因此测试中使用了变化的查询参数,并要求关闭客户端连接。

5. 验证单台后端不可用时的响应

在确认两台后端都能正常提供服务后,可短暂停止后端 B,检查入口是否还能转发到后端 A。此操作会使后端 B 暂时停止接收业务请求,只应在测试环境或已确认可承受短暂影响时执行。

在后端 B 上运行:

sudo systemctl stop lb-demo

从入口直接访问后端 B 应失败;随后连续访问入口:

curl -sS --max-time 3 http://10.0.1.12:8080/health
curl -sS --max-time 5 http://203.0.113.10/

第一条命令失败是预期结果;第二条应能从后端 A 得到响应。恢复后端 B:

sudo systemctl start lb-demo
sudo systemctl is-active lb-demo

待服务恢复后再次访问入口,确认 node-b 重新出现在响应中。配置里的 max_fails 和 fail_timeout 使用 Nginx 的被动失败判定:只有请求过程中出现连接错误、超时或指定的错误状态,Nginx 才会暂时避开相关节点。这不是主动健康探测;短暂停止期间没有请求时,入口不会提前发现故障。

逐步部署与验证 / 5. 验证单台后端不可用时的响应配图

常见异常处理

按请求路径由外向内检查,避免一开始就改动应用或防火墙配置。

现象优先检查处理方向
客户端无法连接入口云安全组 TCP 80、入口公网 IP、Nginx 服务状态确认入口规则允许客户端来源访问;检查 sudo systemctl status nginx --no-pager
入口返回默认页面请求 Host、server_name、站点链接检查访问 IP 或域名是否与配置一致,再运行 sudo nginx -T 查看实际加载的配置
入口报 502 或 504后端监听地址、8080 访问规则、应用状态在入口执行后端 curl,并查看 Nginx 错误日志和后端服务日志
多次请求只看到一个节点另一节点是否健康、配置是否已加载、请求是否命中该入口分别直连两台后端检查;运行 sudo nginx -t,成功后重新加载
改配置后 Nginx 无法重载配置语法、重复的监听设置、文件权限先运行 sudo nginx -t;修复配置后再重载,不要在测试失败时强制重启

查看入口错误日志和后端服务日志:

sudo tail -n 50 /var/log/nginx/error.log
sudo journalctl -u lb-demo -n 50 --no-pager

检查连接情况:

sudo ss -lntp | grep -E ':80|:8080'

如果入口本机访问后端正常,但经由公网访问失败,问题通常位于客户端到入口的安全组、路由或站点匹配环节;如果入口无法直连后端,则先处理后端服务监听和私网访问规则。不要为了排查方便而将后端 8080 临时开放给整个公网。

验收与回滚检查

部署完成后,逐项确认:

  • 两台后端的 lb-demo 服务均为 active,且 /health 返回各自的节点标识。
  • 入口可以通过后端私网 IP 访问两台服务的 8080 端口。
  • nginx -t 通过,Nginx 服务为 active,入口 HTTP 请求能返回后端内容。
  • 多次带不同查询参数的请求中,能观察到两个节点的响应。
  • 停止一台后端时,另一台仍能响应;重新启动后,停止的节点能够重新参与分发。
  • 安全组没有将后端 8080 暴露给不必要的来源。

如需撤销本次 Nginx 配置,只删除本教程创建的站点链接;确认文件确为本次创建且未被其他配置复用后,再选择是否删除配置文件。执行前记录当前配置状态,避免影响已有站点:

sudo unlink /etc/nginx/sites-enabled/lb-demo
sudo nginx -t && sudo systemctl reload nginx

该操作不会删除默认站点;新站点移除后,Nginx 会按剩余配置处理请求。回滚后可用 systemctl status nginx --no-pager 和入口访问测试确认服务状态。若需要撤销后端服务,可先在对应后端停止并禁用本次创建的服务:

sudo systemctl disable --now lb-demo

同时在云安全组中仅移除本次新增的后端 8080 来源规则,不要清空其他业务规则。HTTP 示例未配置加密传输,不应承载敏感数据;正式提供公网服务前,应按实际域名和业务要求配置传输加密,并评估入口单点带来的可用性风险。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/9100.html

相关推荐