GPU服务器部署ComfyUI,需要怎样配置显存、驱动和运行环境?
GPU服务器部署ComfyUI,首先要让显存容量与工作流匹配,再把NVIDIA驱动、PyTorch的CUDA运行时和Python依赖组合成可验证的环境。以单卡图片生成为例,8 GiB显存可作为轻量工作流的起点,12~16 GiB更适合常见SDXL任务;使用较大的文本编码器、多控制模块或视频模型时,通常需要24 GiB甚至更高容量,具体仍取决于精度、分辨率、批量和节点实现。
下面以Ubuntu 22.04 LTS、NVIDIA单卡服务器、Python虚拟环境为部署路径,目标是完成一次可重复的图片生成,并将ComfyUI作为系统服务运行。服务只监听本机,远程访问通过带HTTPS和认证的Nginx入口完成,不直接把8188端口暴露到公网。命令适用于新部署;已有业务的GPU服务器应先备份并安排维护窗口,尤其不要直接更换正在被其他任务使用的驱动。
一、先确定显存边界与部署材料
显存按工作流选,不按模型文件大小选
模型文件的磁盘大小不等于推理显存占用。加载后的权重、文本编码器、采样中间张量、VAE解码和节点缓存都会消耗显存。
下表可用于部署前的容量估算,不代表某个模型的固定最低要求。
| 工作流类型 | 单卡显存参考 | 使用条件与边界 |
|---|---|---|
| SD 1.5类基础文生图 | 6~8 GiB起步 | 单张、约512×512、少量附加节点;高分辨率放大可能需要分块处理 |
| SDXL类文生图 | 12~16 GiB较实用 | 单张、约1024×1024;叠加控制模块、精修或放大后需求会上升 |
| 较大图片模型及复杂工作流 | 24~48 GiB可作为规划范围 | 是否使用量化、CPU卸载以及文本编码器大小,会显著改变需求 |
| 视频生成、长序列或高并发 | 应按具体工作流验证 | 帧数、分辨率、批量和模型结构影响很大,不能仅凭显存容量保证可运行 |
两张显卡的显存不会自动合并给一个普通ComfyUI工作流使用。 默认部署应先按一张卡验收;多卡更常见的用途是运行多个独立实例,或使用明确支持多卡的节点与推理方案。
显存不足时可以降低批量、分辨率,采用兼容的量化模型或使用CPU卸载,但代价可能是速度下降、内存占用增加,或与部分节点不兼容。
围绕ComfyUI图像生成与AI推理,A5数据提供香港和美国GPU物理服务器,涵盖A100 80GB、RTX 4090等显卡选项,并搭配服务器CPU、内存与NVMe存储,为模型加载、工作流计算和生成文件读写提供硬件基础。香港GPU系列提供CN2线路配置,美国GPU系列提供三网直连回国或国际带宽方案,可承接不同访问地区的团队远程使用与图像处理业务。
准备操作系统、存储与版本清单
本教程使用以下基线:
- Ubuntu 22.04 LTS,具备
sudo权限。 - NVIDIA GPU已正确分配给服务器;虚拟机环境需确认GPU透传或虚拟GPU方案支持CUDA。
- 使用系统Python 3.10建立独立虚拟环境。若选定ComfyUI版本要求更高的Python版本,应调整环境,而不是忽略要求。
- 主机内存可先按32 GiB规划;较大模型和频繁CPU卸载场景可考虑64 GiB或更多。
- SSD预留约100~200 GB作为初始部署空间,模型库和历史输出较多时另行扩容。
- 准备可信来源的模型文件、模型许可信息,以及一个固定的测试工作流。
显存和内存容量这里按GiB理解,1 GiB为1024³字节;磁盘规划中的GB按十进制理解。文件系统可用容量以实际查询为准。
开始前查看主机状态:
cat /etc/os-release
uname -r
lspci | grep -i nvidia
free -h
df -h /srv /data
nvidia-smi
如果/data尚未建立,可先检查计划承载数据的挂载点。不要因为目录名称叫/data,就认为它一定位于独立数据盘。
保留三类版本信息:ComfyUI提交号、PyTorch/CUDA组合、模型文件校验值。后续排障和回滚应围绕这组信息进行,而不是反复安装“最新版本”。
二、先打通驱动,再验证CUDA运行环境
已有驱动可用时,不必重装
nvidia-smi正常显示GPU型号、驱动版本和显存,是第一道验证,但还不能证明PyTorch能够执行GPU计算。
需要区分三个概念:

- NVIDIA驱动:操作系统访问GPU所需的组件。
- PyTorch CUDA运行时:预编译PyTorch安装包所对应的CUDA运行环境。
- CUDA Toolkit:包含
nvcc等开发工具,编译CUDA扩展时才可能需要。
运行基础ComfyUI通常不需要单独安装完整CUDA Toolkit。 nvidia-smi顶部显示的“CUDA Version”反映驱动支持能力,不等于系统已安装同版本Toolkit。
本教程给出一组可冻结的示例组合:PyTorch 2.7.1、torchvision 0.22.1、torchaudio 2.7.1,使用cu128安装包。驱动应选择支持该运行时和具体GPU型号的版本,通常可考虑570分支或更新的适用驱动,并核对具体小版本。较新的GPU不能只看驱动主版本,还要确认其设备支持。
如果选定ComfyUI提交要求其他PyTorch版本,应同步调整整组依赖,而不是强行沿用示例。
驱动缺失时,通过Ubuntu包管理安装
驱动安装会改变内核模块,并可能中断已有GPU任务。操作前应具备控制台访问能力、系统盘快照或等效备份;共享主机必须先确认GPU任务已停止。
先列出候选,不猜包名:
sudo apt update
sudo apt install -y ubuntu-drivers-common
ubuntu-drivers devices
根据输出选择与GPU及计划运行时兼容的驱动包:
read -rp "输入已核对的驱动包名,例如输出中列出的 nvidia-driver-XXX: " DRIVER_PACKAGE
apt-cache policy "$DRIVER_PACKAGE"
sudo apt install "$DRIVER_PACKAGE"
确认安装完成后,在维护窗口重启:
sudo reboot
重连后验证:
nvidia-smi
lsmod | grep nvidia
若出现“NVIDIA-SMI has failed”,先检查模块和启动日志,不要立即叠加另一种安装方式:
mokutil --sb-state
dkms status
journalctl -k -b | grep -Ei 'nvidia|nouveau|secure boot|module'
启用了Secure Boot时,可能需要完成模块签名或MOK登记。包管理安装与独立安装程序混用,也可能造成用户态库和内核模块不一致。应沿原安装路径修复,避免直接清除整套驱动。
三、建立独立目录与冻结的Python环境
创建服务账号和持久化目录
以下操作用于首次部署。如果同名账号、目录或服务已存在,应先检查用途,不能直接覆盖。
sudo apt install -y \
git python3-venv python3-dev build-essential \
libgl1 libglib2.0-0 ca-certificates
sudo adduser --system --group \
--home /srv/comfyui \
--shell /usr/sbin/nologin comfyui
sudo install -d -o comfyui -g comfyui \
/srv/comfyui/releases \
/data/comfyui/models/checkpoints \
/data/comfyui/models/vae \
/data/comfyui/models/loras \
/data/comfyui/input \
/data/comfyui/output \
/data/comfyui/temp \
/data/comfyui/cache
sudo install -d -o root -g comfyui -m 0750 /etc/comfyui
将程序版本与模型、输入、输出分开,可以避免更新代码时误删生成结果。不要使用chmod -R 777解决权限问题。
固定ComfyUI提交,并安装依赖
从可信代码仓库选择一个待验收的标签或提交号。首次部署也应记录准确提交,不应让生产服务自动跟随主分支更新。
read -rp "输入待部署的 ComfyUI 标签或提交号: " COMFYUI_REF
sudo -u comfyui -H env COMFYUI_REF="$COMFYUI_REF" bash <<'SH'
set -e
git clone https://github.com/Comfy-Org/ComfyUI.git \
/srv/comfyui/releases/r1
cd /srv/comfyui/releases/r1
git checkout --detach "$COMFYUI_REF"
git rev-parse HEAD > DEPLOY_COMMIT
python3 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip
cat > constraints.txt <<'EOF'
torch==2.7.1
torchvision==0.22.1
torchaudio==2.7.1
EOF
python -m pip install \
torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 \
--index-url https://download.pytorch.org/whl/cu128
python -m pip install -r requirements.txt -c constraints.txt
python -m pip check
python -m pip freeze > requirements.lock.txt
SH
约束文件的作用是阻止安装其他依赖时悄悄替换PyTorch组合。若出现依赖冲突,应检查选定提交的requirements.txt,重新选择兼容组合;不要用忽略依赖检查的方式强行完成安装。
requirements.lock.txt用于记录安装结果,不能替代完整的离线制品归档。要求离线重建时,还应保存匹配平台的安装包、代码提交和模型文件。

用真实GPU运算验证,而不只看设备列表
sudo -u comfyui -H \
/srv/comfyui/releases/r1/.venv/bin/python - <<'PY'
import torch
print("PyTorch:", torch.__version__)
print("CUDA runtime:", torch.version.cuda)
print("CUDA available:", torch.cuda.is_available())
if not torch.cuda.is_available():
raise SystemExit("GPU不可用,停止后续部署")
print("GPU:", torch.cuda.get_device_name(0))
print("VRAM GiB:", round(
torch.cuda.get_device_properties(0).total_memory / 1024**3, 2
))
x = torch.randn((1024, 1024), device="cuda")
y = x @ x
torch.cuda.synchronize()
print("GPU compute OK:", tuple(y.shape))
PY
成功时应看到CUDA available: True和GPU compute OK: (1024, 1024)。具体版本、GPU名称和显存数值以实际输出为准。
如果nvidia-smi正常而这里失败,问题通常位于Python环境、PyTorch安装包、驱动兼容性或设备访问权限,而不是ComfyUI工作流。
四、加载模型并完成第一张图片
配置模型路径,先不安装第三方节点
创建额外模型路径配置:
sudo tee /etc/comfyui/extra_model_paths.yaml >/dev/null <<'YAML'
deployment_models:
base_path: /data/comfyui/models
checkpoints: checkpoints
vae: vae
loras: loras
YAML
sudo chown root:comfyui /etc/comfyui/extra_model_paths.yaml
sudo chmod 0640 /etc/comfyui/extra_model_paths.yaml
将可信来源的SD 1.5类或SDXL类完整checkpoint放入checkpoints目录。模型必须与工作流匹配;单独的扩散模型权重不能直接当成完整checkpoint使用。
例如,将已上传的文件复制到目标目录:
sudo install -o comfyui -g comfyui -m 0640 \
/tmp/approved-model.safetensors \
/data/comfyui/models/checkpoints/approved-model.safetensors
sha256sum /data/comfyui/models/checkpoints/approved-model.safetensors
这里的文件名是示例,执行前需替换为真实文件。复制会覆盖同名目标,因此已有模型必须先核对并备份,或改用包含版本号的新文件名。若发布方提供校验值,应与计算结果比较;自行记录的校验值只能用于后续一致性检查。
首次验收只使用内置节点。第三方节点会以服务账号权限执行代码,也可能改变Python依赖,应在基础部署成功后逐个引入。
前台启动,先看参数和日志
先确认所选版本支持相关参数:
sudo -u comfyui -H \
/srv/comfyui/releases/r1/.venv/bin/python \
/srv/comfyui/releases/r1/main.py --help
然后启动:
sudo -u comfyui -H bash <<'SH'
cd /srv/comfyui/releases/r1
export XDG_CACHE_HOME=/data/comfyui/cache
exec .venv/bin/python main.py \
--listen 127.0.0.1 \
--port 8188 \
--extra-model-paths-config /etc/comfyui/extra_model_paths.yaml \
--input-directory /data/comfyui/input \
--output-directory /data/comfyui/output \
--temp-directory /data/comfyui/temp
SH
另开终端验证监听与HTTP响应:
ss -lntp | grep ':8188'
curl -I http://127.0.0.1:8188/
应看到监听地址为127.0.0.1:8188,HTTP请求没有连接失败。远程浏览器入口将在下一节配置。
用固定参数验收,不先挑战显存上限
选择与checkpoint架构匹配的基础文生图工作流,至少包含模型加载、正负提示词编码、空潜空间、采样、VAE解码和图片保存节点。
建议首轮设置:
- 批量设为1。
- SD 1.5类模型先使用512×512;SDXL类模型先使用1024×1024。
- 使用固定种子,并记录采样器、步数和模型文件名。
- 暂不叠加LoRA、控制模块、精修、放大或第三方节点。
成功标准不是“页面打开”,而是队列任务完成、预览出现、输出目录生成可打开的图片。
推理期间观察:
watch -n 1 nvidia-smi
显存与GPU利用率应随计算阶段变化。首次运行可能包含模型加载和缓存建立,不宜直接作为稳定耗时。
五、转为系统服务,并限制访问入口
交给systemd管理
确认前台运行正常后按Ctrl+C停止,再建立首次部署链接:
sudo ln -s /srv/comfyui/releases/r1 /srv/comfyui/current
此命令仅适用于current尚不存在的情况。升级时不能直接覆盖正在使用的版本目录。
创建服务:
sudo tee /etc/systemd/system/comfyui.service >/dev/null <<'UNIT'
[Unit]
Description=ComfyUI GPU Service
After=network.target
[Service]
Type=simple
User=comfyui
Group=comfyui
WorkingDirectory=/srv/comfyui/current
Environment=PYTHONUNBUFFERED=1
Environment=XDG_CACHE_HOME=/data/comfyui/cache
Environment=HF_HOME=/data/comfyui/cache/huggingface
Environment=TORCH_HOME=/data/comfyui/cache/torch
ExecStart=/srv/comfyui/current/.venv/bin/python /srv/comfyui/current/main.py --listen 127.0.0.1 --port 8188 --extra-model-paths-config /etc/comfyui/extra_model_paths.yaml --input-directory /data/comfyui/input --output-directory /data/comfyui/output --temp-directory /data/comfyui/temp
Restart=on-failure
RestartSec=5
NoNewPrivileges=true
PrivateTmp=true
ProtectHome=true
UMask=0027
[Install]
WantedBy=multi-user.target
UNIT
sudo systemctl daemon-reload
sudo systemctl enable --now comfyui
sudo systemctl status comfyui --no-pager
sudo journalctl -u comfyui -n 100 --no-pager
这些隔离选项适用于本教程的基础部署。依赖额外系统工具或特殊路径的第三方节点,需要单独验证,不能直接放宽为root运行。
Nginx入口同时配置HTTPS和认证
ComfyUI不应直接作为无需认证的公网生成服务。以下示例适用于单个受控团队入口,不提供多租户数据隔离。
先准备域名、有效证书和私钥,再安装组件:
sudo apt install -y nginx apache2-utils
sudo htpasswd -c /etc/nginx/comfyui.htpasswd operator
sudo chown root:www-data /etc/nginx/comfyui.htpasswd
sudo chmod 0640 /etc/nginx/comfyui.htpasswd
htpasswd -c只用于首次创建,会覆盖已有密码文件;增加账号时应去掉-c。已有文件先备份。
下面使用示例域名和证书路径,必须替换后再启用。若配置文件已存在,先备份,不要直接覆盖:

server {
listen 443 ssl;
server_name comfy.example.com;
ssl_certificate /etc/nginx/tls/comfy.fullchain.pem;
ssl_certificate_key /etc/nginx/tls/comfy.key;
auth_basic "ComfyUI";
auth_basic_user_file /etc/nginx/comfyui.htpasswd;
client_max_body_size 100m;
location / {
proxy_pass http://127.0.0.1:8188;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
proxy_read_timeout 600s;
proxy_send_timeout 600s;
proxy_buffering off;
}
}
可将配置保存为/etc/nginx/conf.d/comfyui.conf。确认域名没有与已有站点冲突,再检查并重载:
sudo nginx -t
sudo systemctl reload nginx
安全组或防火墙仅允许所需的HTTPS入口,保留原管理连接规则,不向公网开放8188。涉及防火墙调整时,应保留控制台与旧规则备份,避免误锁管理入口。
浏览器访问后应先出现认证提示,登录后能够加载界面、提交任务并持续看到进度。未登录请求返回401是正常结果。不要把认证只加在首页而遗漏任务接口、WebSocket或图片访问路径。
六、按低风险顺序排障,再做验收和回滚
常见失败如何分层判断
| 现象 | 优先检查 | 对应处理 |
|---|---|---|
外部入口无法访问,本机curl正常 | DNS、证书、443访问规则、Nginx配置 | 修复入口层,不重装ComfyUI |
| 返回502 | systemd状态、8188监听、启动日志 | 先确认后端是否启动、地址是否一致 |
| 页面打开但进度不更新 | 浏览器WebSocket状态、Nginx日志 | 检查升级请求和超时配置 |
| 模型列表为空 | 文件路径、权限、模型类型 | 确认服务账号可读,且权重与加载节点匹配 |
CUDA available: False | 虚拟环境、PyTorch运行时、驱动 | 回到独立GPU计算测试,定位环境层问题 |
CUDA out of memory | 同卡其他进程、批量、分辨率、附加模块 | 从降低工作流负载开始,不先更换依赖 |
| 自定义节点导入失败 | 节点版本、依赖冲突、完整异常栈 | 在新版本目录验证,不污染已验收环境 |
| 图片无法保存 | 输出路径、剩余空间、服务账号权限 | 修复目标目录,不递归放开全部权限 |
显存不足时,先使用nvidia-smi确认是否有其他任务占用,再恢复到单张基础工作流。仍不足时,可在确认当前版本支持后尝试--lowvram,但应重新测量耗时和主机内存占用。
队列长度不等于GPU并发数。首次部署应先验收单任务,再测试连续提交;不要直接启动多个共享同一GPU的进程。
需要清理临时目录时,先停止服务,确认目录里没有待处理文件,再按保留策略清理。输出目录和模型目录不应与临时目录一起删除。
上线前的验收检查项
- [ ] 驱动重启后仍正常,PyTorch独立GPU计算成功。
- [ ] 记录了ComfyUI提交、Python版本、依赖清单和模型校验值。
- [ ] 固定工作流可重复完成,输出图片可打开,保存路径正确。
- [ ] 连续任务结束后没有持续增长的显存或内存异常。
- [ ]
systemd服务以专用账号运行,日志中无反复重启。 - [ ] 8188只监听本机;HTTPS证书有效,未认证请求被拒绝。
- [ ] WebSocket进度、输入上传和输出下载均通过入口验证。
- [ ] 已设定输出保留周期、磁盘告警和模型备份范围。
- [ ] 无未审核的第三方节点,也没有自动更新生产依赖。
耗时记录应区分首次加载与后续执行,并包含分辨率、批量、模型和节点配置,不能把一次结果当成服务器的固定性能指标。
更新失败时,回到已验收版本
后续更新应新建/srv/comfyui/releases/r2,使用独立虚拟环境,在另一空闲端口测试。不要在r1中直接执行依赖升级,也不要在生产目录直接git pull。

切换前记录原链接,并备份系统服务和模型路径配置。以下是已部署r2后切回r1的示例,会中断正在执行的任务,应先停止接收请求并等待队列结束:
readlink -f /srv/comfyui/current
sudo systemctl stop comfyui
sudo ln -s /srv/comfyui/releases/r1 /srv/comfyui/current.rollback
sudo mv -Tf /srv/comfyui/current.rollback /srv/comfyui/current
sudo systemctl start comfyui
sudo systemctl status comfyui --no-pager
curl -I http://127.0.0.1:8188/
执行前确认current.rollback不存在、r1完整可用,且current确实为符号链接。此操作仅切换程序与虚拟环境,不会还原共享模型、配置或工作流。
最后核对回滚范围:
- [ ] 代码与Python依赖已回到旧版本。
- [ ] 修改过的systemd、Nginx和模型路径配置已恢复对应备份。
- [ ] 旧工作流所需模型仍在,文件校验值一致。
- [ ] 用同一个验收工作流重新生成图片,而不是只检查服务状态。
- [ ] 若变更涉及驱动,按系统快照或原包管理记录单独恢复;代码链接回滚不能恢复驱动。
- [ ] 新版本目录先保留用于排障,确认不再需要后再删除。
把显存验证、驱动验证和工作流验证分开,并保留独立版本目录,才能让ComfyUI从“能够启动”变成可维护、可检查、可回退的GPU服务。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/3575.html



