日本GPU服务器部署ComfyUI,需要准备哪些驱动、显存与运行环境?

发布人:A5数据发布时间:2026-10-15 11:26阅读量:215

在日本GPU服务器上部署ComfyUI,需要先打通三层环境:操作系统能够识别GPU,PyTorch能够调用GPU,ComfyUI能够加载模型并完成一次生成。对于常见的NVIDIA Ampere、Ada架构显卡,可以采用Ubuntu 24.04 LTS、Python 3.12、独立虚拟环境和匹配的CUDA版PyTorch;显存则按工作流选择,不能只看模型文件大小。

一、准备条件:确认GPU、显存与上线边界配图

本文以单机、单GPU部署为例,目标是让ComfyUI以普通服务账号运行,通过带HTTPS和身份验证的Nginx入口访问,并具备重启恢复、基础排障和回滚能力。服务器位于日本不会改变驱动安装方法,但机房到使用者的网络质量、模型下载来源和存储条件,会影响部署与交互体验。文中命令适用于新装或已完成备份的Ubuntu服务器,示例输出仅用于判断状态。

围绕 ComfyUI 等图像生成场景,A5数据提供日本物理服务器资源,覆盖 Xeon Gold、AMD EPYC、NVMe 存储及多种线路,可承载服务环境、模型文件与生成结果;同时提供香港、美国 GPU 服务器,配置 A100 80GB 或 RTX 4090,为 AI 推理、模型测试和图像处理提供算力基础,并支持结合业务访问地区进行部署规划。

一、准备条件:确认GPU、显存与上线边界

1. 明确本次部署范围

本教程采用以下环境组合:

项目本文采用的条件部署前核对方式
操作系统Ubuntu 24.04 LTS,x86_64查看发行版和系统架构
GPUNVIDIA Ampere、Ada架构单卡核对实际型号与GPU分配方式
Python系统Python 3.12,配合venv执行python3 --version
PyTorch2.7.1,CUDA 12.6构建安装后检查版本与CUDA可用性
ComfyUI官方仓库,记录实际提交编号保存Git提交和依赖清单
访问方式本机8188端口,Nginx提供HTTPS入口核对监听地址、证书和访问控制
运行方式systemd管理,非root账号检查服务状态与日志

这里的PyTorch版本是一个明确的部署参考组合,不代表所有GPU和ComfyUI版本都应固定使用它。更老的显卡、新架构显卡以及依赖较新的自定义节点,需要重新核对PyTorch构建、驱动和算力架构支持。

GPU直通服务器、独占GPU实例和共享显存实例也不能混为一谈。购买或开通日本GPU服务器时,应确认操作系统内可见的显存、是否允许安装驱动、是否支持重启,以及GPU是否有其他租户或任务共享。

2. 显存按工作流准备,而不是按模型文件准备

运行时显存通常包括模型权重、中间张量、注意力计算、VAE解码和其他节点占用。磁盘上的模型为6GB,并不意味着6GB显存就能运行相应工作流。

以下为单任务部署的容量参考:

一、准备条件:确认GPU、显存与上线边界配图

工作流类型显存准备参考适用边界
SD 1.5基础文生图8GB可作为起点较低分辨率、batch为1,不叠加大量附加模型
SDXL基础文生图12~16GB较便于实施从1024×1024、batch为1开始验证
SDXL叠加ControlNet、放大等节点24GB更有余量仍需按控制模型数量和放大尺寸检查峰值
大模型或视频工作流32~48GB及以上可能更合适不同模型差异明显,应按具体工作流验收

这些是配置参考,不是容量保证。低显存模式能够通过卸载部分模型降低显存压力,但会增加内存、数据搬运和等待时间。

系统内存建议从32GB起步,较大模型或频繁卸载场景可考虑64GB及以上。系统盘与模型盘合计可先预留100~200GB可用空间;使用多个模型或视频输出时,需要额外规划容量。系统内存、磁盘空间和swap都不能直接代替GPU显存。

3. 日本机房需要额外核对的条件

  • 使用者到日本机房的延迟、丢包和可用带宽,影响页面连接、上传和结果下载。
  • 服务器访问代码仓库、Python软件源和模型存储的能力,影响首次部署耗时。
  • 模型目录与输出目录是否落在持久化磁盘,影响实例重建后的数据保留。
  • 出站流量、磁盘快照和GPU使用的计费方式,应分别确认,不套用同一计费口径。

GPU推理耗时与网络传输耗时应分开观察。页面打开快,不等于生成快;生成完成后图片下载慢,也不一定是GPU性能不足。

开始前,对已有服务器创建快照,并保存当前驱动版本、服务配置和业务数据。驱动安装、系统重启可能影响同机其他GPU任务,不能直接在正在提供服务的节点上执行。

二、逐步准备驱动和Python环境

1. 检查操作系统与GPU可见性

使用具备sudo权限的管理账号执行:

cat /etc/os-release
uname -m
python3 --version
lspci | grep -i nvidia
nvidia-smi
df -h / /srv
free -h

预期系统架构为x86_64。lspci能看到NVIDIA设备,说明操作系统识别到了PCI设备;nvidia-smi正常输出,才说明驱动已经能够与GPU通信。

若是容器环境,宿主机需要先完成驱动配置,并将GPU设备正确提供给容器。本文后续步骤针对直接管理Ubuntu操作系统的部署,不应在普通业务容器内照搬驱动安装命令。

2. 安装或确认NVIDIA驱动

已有可用驱动时,不要仅为了重新部署ComfyUI就覆盖安装。先检查版本与目标PyTorch构建的兼容性。

本文CUDA 12.6参考组合,可将Linux驱动560.28.03或更高版本作为保守的部署起点。它不是所有CUDA 12.x运行场景的统一最低版本;实际要求还受显卡型号、CUDA兼容机制和软件功能影响。

新装Ubuntu服务器可先查询发行版推荐驱动:

sudo apt update
sudo apt install -y ubuntu-drivers-common pciutils
ubuntu-drivers devices

确认推荐项适配实际GPU,并能满足所选运行环境后,再执行:

sudo ubuntu-drivers autoinstall
sudo reboot

这一步会改变系统级驱动并中断服务器连接。执行前必须具备快照、维护窗口和控制台访问能力;如果推荐版本不符合目标组合,应先解决软件源与驱动支持问题,不要混装发行版包和独立安装器。

重启后检查:

nvidia-smi
lsmod | grep nvidia

需要关注GPU名称、驱动版本、可用显存和进程列表。nvidia-smi顶部显示的“CUDA Version”代表驱动支持的CUDA版本上限,不表示系统已经安装了同版本CUDA Toolkit。

常规ComfyUI部署通常只需要NVIDIA驱动和CUDA版PyTorch,不必额外安装完整CUDA Toolkit。 只有编译特定CUDA扩展、自定义节点或其他源码组件时,才需要进一步核对Toolkit和编译器。

3. 建立独立服务账号与虚拟环境

下列命令假定comfy账号和/srv/comfy目录尚不存在。已有部署应使用新目录,避免覆盖原环境。

sudo apt install -y \
  git python3-venv python3-dev build-essential \
  libgl1 libglib2.0-0 ca-certificates

sudo useradd --system --create-home \
  --home-dir /srv/comfy \
  --shell /usr/sbin/nologin comfy

sudo -u comfy python3 -m venv /srv/comfy/venv

sudo -u comfy /srv/comfy/venv/bin/python \
  -m pip install --upgrade pip setuptools wheel

服务账号不开放交互登录,也不获得sudo权限。后续代码、模型和输出归该账号管理,避免使用root直接启动ComfyUI。

这里安装编译工具是为了处理可能需要构建的Python依赖,并不意味着所有自定义节点都能自动完成安装。

三、安装ComfyUI并验证GPU计算

1. 拉取代码,保存版本基线

sudo -u comfy git clone \
  https://github.com/comfyanonymous/ComfyUI.git \
  /srv/comfy/ComfyUI

sudo -u comfy sh -c \
  'git -C /srv/comfy/ComfyUI rev-parse HEAD > /srv/comfy/comfyui-commit.txt'

首次拉取的是仓库当时的默认分支。正式上线前,应在这一提交上完成验证并冻结版本,不要将自动拉取最新代码作为服务启动步骤。

2. 先安装CUDA版PyTorch,再安装应用依赖

本文参考组合的安装命令为:

sudo -u comfy /srv/comfy/venv/bin/python -m pip install \
  torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 \
  --index-url https://download.pytorch.org/whl/cu126

建立约束文件,防止后续依赖安装悄悄改变这组版本:

sudo -u comfy tee /srv/comfy/constraints.txt > /dev/null <<'EOF'
torch==2.7.1
torchvision==0.22.1
torchaudio==2.7.1
EOF

sudo -u comfy /srv/comfy/venv/bin/python -m pip install \
  -r /srv/comfy/ComfyUI/requirements.txt \
  -c /srv/comfy/constraints.txt

如果出现依赖冲突,应停下来核对该ComfyUI提交的要求。可以更换为经过验证的ComfyUI提交,也可以整体调整PyTorch组合,但不要忽略冲突继续上线。

基础环境阶段不安装额外的自定义节点。先验证内置工作流,再逐个增加扩展,能显著缩小故障范围。

3. 验证PyTorch确实能够执行GPU计算

sudo -u comfy /srv/comfy/venv/bin/python - <<'PY'
import torch

print("PyTorch:", torch.__version__)
print("CUDA build:", torch.version.cuda)
print("CUDA available:", torch.cuda.is_available())

if not torch.cuda.is_available():
    raise SystemExit("GPU不可用,请先检查驱动与PyTorch安装")

print("GPU:", torch.cuda.get_device_name(0))
print("VRAM GiB:",
      round(torch.cuda.get_device_properties(0).total_memory / 1024**3, 2))

x = torch.zeros((1024, 1024), device="cuda")
print("GPU calculation:", x.sum().item())
PY

成功状态应包含CUDA available: True、正确的显卡名称,以及GPU calculation: 0.0。这不仅检查版本,还实际申请了GPU张量并执行运算。

代码中的显存按GiB计算,即除以1024³,与部分产品页面使用的十进制GB可能存在显示差异。

再检查依赖并保存清单:

sudo -u comfy /srv/comfy/venv/bin/python -m pip check

sudo -u comfy sh -c \
  '/srv/comfy/venv/bin/python -m pip freeze > /srv/comfy/requirements-baseline.txt'

pip check通过不代表所有节点都已验证,但如果这里已经出现依赖缺失或版本冲突,就不应继续开放访问。

4. 放置模型并进行前台启动

从有授权、可信的来源取得模型,核对许可和发布方提供的哈希。基础部署优先使用适配内置节点的SafeTensors模型;扩展代码、未知脚本和不明序列化文件均应审查后使用。

例如,一个适用于基础SDXL工作流的checkpoint应放入:

/srv/comfy/ComfyUI/models/checkpoints/

如果模型已上传到/tmp/sdxl-base.safetensors,可使用以下命令复制。先检查目标不存在,避免覆盖已有模型:

sudo test ! -e \
  /srv/comfy/ComfyUI/models/checkpoints/sdxl-base.safetensors && \
sudo install -o comfy -g comfy -m 0640 \
  /tmp/sdxl-base.safetensors \
  /srv/comfy/ComfyUI/models/checkpoints/sdxl-base.safetensors

不同类型模型应放入各自目录,例如VAE放入models/vae、LoRA放入models/loras。不能把所有文件都放进checkpoints目录。

启动前台进程:

sudo -u comfy /srv/comfy/venv/bin/python \
  /srv/comfy/ComfyUI/main.py \
  --listen 127.0.0.1 --port 8188

在另一个SSH会话中验证:

curl -fsS http://127.0.0.1:8188/system_stats \
  | python3 -m json.tool

ss -lntp | grep ':8188'

预期接口返回JSON,监听地址为127.0.0.1:8188。此时外部不能直接访问8188是正常现象,不应为了打开页面就将端口暴露到公网。

四、配置持续运行与受控访问

1. 使用systemd管理ComfyUI

先在前台终端按Ctrl+C结束测试进程,确认8188端口释放。以下配置适用于尚未存在同名服务的新部署;已有文件应先备份。

sudo tee /etc/systemd/system/comfyui.service > /dev/null <<'EOF'
[Unit]
Description=ComfyUI GPU Service
After=network-online.target
Wants=network-online.target

[Service]
Type=simple
User=comfy
Group=comfy
WorkingDirectory=/srv/comfy/ComfyUI
Environment=PYTHONUNBUFFERED=1
ExecStart=/srv/comfy/venv/bin/python /srv/comfy/ComfyUI/main.py --listen 127.0.0.1 --port 8188
Restart=on-failure
RestartSec=5
UMask=0027
NoNewPrivileges=true
PrivateTmp=true
ProtectSystem=full

[Install]
WantedBy=multi-user.target
EOF

sudo systemctl daemon-reload
sudo systemctl enable --now comfyui
sudo systemctl status comfyui --no-pager

验证服务日志:

sudo journalctl -u comfyui -n 100 --no-pager
curl -fsS http://127.0.0.1:8188/system_stats

预期服务状态为active (running)。若反复重启,先查看第一条异常,不要只提高重启频率。

2. 使用Nginx提供HTTPS与身份验证

以下示例要求域名已解析到服务器,且已有有效证书。comfy.example.com和证书路径必须替换为实际值,证书续期也要纳入运维。

sudo apt install -y nginx apache2-utils

sudo test ! -e /etc/nginx/comfy.htpasswd && \
sudo htpasswd -c /etc/nginx/comfy.htpasswd comfyadmin

sudo chown root:www-data /etc/nginx/comfy.htpasswd
sudo chmod 0640 /etc/nginx/comfy.htpasswd

htpasswd会交互式要求输入密码,避免把密码写进命令历史。-c会创建或覆盖文件,因此这里先检查文件不存在;已有密码文件添加用户时不要使用-c。

确认/etc/nginx/conf.d/comfyui.conf没有同名配置后,再创建:

server {
    listen 443 ssl;
    server_name comfy.example.com;

    ssl_certificate     /etc/ssl/comfy/fullchain.pem;
    ssl_certificate_key /etc/ssl/comfy/privkey.pem;
    ssl_protocols TLSv1.2 TLSv1.3;

    auth_basic "ComfyUI";
    auth_basic_user_file /etc/nginx/comfy.htpasswd;

    client_max_body_size 100m;

    location / {
        proxy_pass http://127.0.0.1:8188;
        proxy_http_version 1.1;

        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";

        proxy_read_timeout 600s;
        proxy_send_timeout 600s;
        proxy_buffering off;
    }
}

该配置支持页面使用的WebSocket连接。超时时间和上传大小是示例,应按实际工作流调整,不是生成耗时承诺。

应用前验证:

sudo nginx -t
sudo systemctl reload nginx

只有配置检查通过才重载。服务器已有其他网站时,应检查完整Nginx配置,避免域名、端口和证书配置冲突。

安全组或主机防火墙仅开放必要入口:SSH限制为管理来源,HTTPS限制为允许访问的来源,8188保持不对公网开放。防火墙变更前保存规则并保留控制台通道,避免锁定管理访问。

ComfyUI不应被直接视为多租户隔离平台。身份验证只能控制入口,不能隔离不同用户的数据、节点代码和GPU资源。多用户生产场景应进一步设计任务队列、账号隔离与资源限额。

3. 完成一次基础生成

通过HTTPS打开页面,加载由内置节点组成的基础文生图工作流。SDXL可从1024×1024、batch为1开始,使用checkpoint加载、文本编码、采样、VAE解码和图像保存节点。

四、配置持续运行与受控访问配图

验收时观察:

  • checkpoint列表能识别模型,提交任务后节点没有缺失提示。
  • GPU进程出现,显存使用随任务发生变化。
  • 输出目录生成可打开的图片,而不只是页面显示排队成功。
  • 刷新页面后仍可查看结果,服务日志没有CUDA或模型加载异常。

可在另一终端运行watch -n 1 nvidia-smi辅助观察,但短任务可能发生在采样间隔之间。不要仅凭某一秒的GPU利用率为0就判定没有使用GPU。

五、异常处理:从低风险检查到环境调整

1. 页面无法访问

先判断故障位于外部入口还是应用内部:

sudo systemctl status comfyui nginx --no-pager
curl -fsS http://127.0.0.1:8188/system_stats
sudo nginx -t
sudo journalctl -u comfyui -n 100 --no-pager

本地接口正常而外部访问失败,应检查DNS、证书、443端口、安全组和Nginx日志;本地接口失败,则检查ComfyUI启动异常和端口占用。

未经认证访问返回401符合预期。通过认证后返回502通常表示Nginx无法访问后端;页面能打开但任务状态不更新,应继续检查WebSocket连接,而不是立即更换GPU。

2. nvidia-smi失败或PyTorch无法使用CUDA

按以下顺序排查:

五、异常处理:从低风险检查到环境调整配图

  1. lspci没有GPU:检查实例是否正确分配GPU或直通设备。
  2. lspci有GPU,nvidia-smi失败:检查驱动模块、内核更新和Secure Boot状态。
  3. nvidia-smi正常,PyTorch返回False:核对是否使用了虚拟环境、是否安装CPU版PyTorch,以及驱动是否兼容。
  4. 简单GPU计算正常,某节点失败:检查该节点支持的算力架构、扩展库和依赖版本。

可补充检查:

uname -r
dkms status
mokutil --sb-state
/srv/comfy/venv/bin/python -m pip show torch
sudo journalctl -k -b | grep -Ei 'nvidia|nouveau|secure'

若mokutil命令不存在,可按需要安装相应软件包。Secure Boot相关问题应按发行版流程处理模块签名,不要把关闭安全机制当作默认修复方法。

3. 出现CUDA显存不足

先执行nvidia-smi检查是否有其他任务占用显存,再降低batch、分辨率和附加模型数量。大尺寸VAE解码可考虑工作流中的分块解码节点。

确有需要时,可在systemd启动参数中加入--lowvram;添加前先核对当前代码支持的参数:

sudo -u comfy /srv/comfy/venv/bin/python \
  /srv/comfy/ComfyUI/main.py --help

修改服务文件前备份,修改后执行daemon-reload并重启。重启会中断正在生成的任务,应先停止接收新任务。

低显存模式不能让所有工作流都适配小显存。若基础任务已经接近显存上限,就不适合直接叠加多个控制模型或并发任务。

4. 自定义节点安装后启动失败

自定义节点本质上是运行在服务器上的代码,可能安装依赖、读取文件或访问网络。不要只因某工作流提示缺少节点,就批量安装未知扩展。

排障时先备份节点目录、依赖清单和日志,将新节点移到ComfyUI扫描目录之外,再重启验证。禁用节点不能撤销它已经修改的Python依赖;如果基础环境仍异常,应切回原虚拟环境或用保存的版本基线重新构建。

六、上线验收与回滚检查项

上线验收不能止于“页面能打开”,至少应覆盖以下项目:

  • 硬件:实际GPU型号、显存和独占条件与交付约定一致。
  • 驱动:重启后nvidia-smi正常,未发现驱动与内核不匹配。
  • 运行环境:PyTorch GPU计算通过,pip check没有依赖冲突。
  • 功能:目标工作流完成生成,输出文件有效,峰值显存留有合理余量。
  • 网络:HTTPS证书有效,身份验证生效,公网不能直接访问8188。
  • 运维:systemd可恢复服务,日志可查询,模型和输出存储具备备份策略。
  • 版本:保存ComfyUI提交、PyTorch构建、Python版本、依赖清单和工作流文件。
  • 容量:明确磁盘告警阈值、输出保留周期及任务并发上限。

升级前保留旧代码、旧虚拟环境和原服务配置,在新目录中构建并验证新环境,再切换systemd路径。不要直接在唯一可用的虚拟环境中执行无约束升级。

需要回滚时,先停止任务入口并等待或取消在途任务,再停止服务:

sudo systemctl stop comfyui

随后恢复原服务文件及其对应的代码、虚拟环境路径,执行:

sudo systemctl daemon-reload
sudo systemctl start comfyui
sudo systemctl status comfyui --no-pager

回滚后的检查项包括:

  • 原版本能否重新完成同一基础工作流,而不仅是进程启动。
  • 模型、输入和输出目录是否仍然完整,权限是否正确。
  • Nginx入口、认证和证书是否保持有效。
  • 新增节点造成的依赖变化是否已通过切换环境撤销。
  • 若驱动变更导致故障,是否通过预先保存的系统快照或经过验证的旧驱动方案恢复。

应用回滚与驱动回滚是两个层次。恢复Python环境不能修复内核驱动问题;恢复系统快照也可能回退业务数据。日本GPU服务器投入使用前,应分别验证这两条恢复路径,并将模型与生成结果备份到不会随系统回滚丢失的位置。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/3870.html

相关推荐