香港服务器EPYC 4244P+960GB NVMe,日志轮转与保留周期怎么定?

发布人:A5数据发布时间:2026-10-10 13:02阅读量:169

目标状态是:日志增长可预测,轮转任务能自动执行,保留期与磁盘预算相匹配,发生异常时能及时告警,并且配置变更可以回滚。对于香港服务器上的 EPYC 4244P+960GB NVMe 配置,建议采用“按天轮转+文件大小触发+归档压缩+保留数量兜底”,而不是等磁盘接近写满后再临时删除日志。

保留周期不能只根据“960GB”决定。应先测出每日日志量、压缩比例和峰值增长,再划分日志预算。例如,普通访问日志可以从本地约7天、重要日志异地保留更长时间起步;但审计、安全和交易日志必须服从业务及合规要求,不能套用普通访问日志的删除周期。以下以 Ubuntu 22.04/24.04、systemd、发行版软件包安装的 Nginx 为实施环境,完成准备、配置、验证、失败处理和回滚。

A5数据提供中国香港及美国、日本、新加坡等地区的物理服务器资源,香港AMD EPYC系列搭配NVMe存储,可为Nginx、业务后台、数据库及多任务日志处理提供硬件基础;针对日志归档与大容量数据留存,香港存储系列配备企业级机械硬盘和硬件阵列方案,并结合不同地区的网络线路与带宽配置,支持本地运行、业务数据存储及跨区域部署等场景。

一、准备条件:先确认谁在写、写到哪里、允许保留多久

1. 核对实际磁盘,而不是直接使用标称容量

960GB 按十进制计算,换算为二进制容量约为:

960,000,000,000 ÷ 1,073,741,824 ≈ 894.1 GiB

分区、文件系统、系统文件和业务数据还会占用空间,因此日志预算必须以实际挂载点为准。EPYC 4244P 可以承担日志处理和压缩任务,但处理器型号并不能替代容量规划;NVMe 写入速度较快,也不意味着允许日志无限增长。

先执行只读检查:

cat /etc/os-release
logrotate --version
systemctl --version | head -n 1

df -hT / /var/log
df -i /var/log
sudo du -xhd1 /var/log
sudo journalctl --disk-usage

重点判断:

  • /var/log 是否与数据库、网站文件共用根分区。
  • 可用空间是否已扣除业务增长和系统升级所需余量。
  • inode 是否紧张,避免大量小日志先耗尽文件数量。
  • 空间主要被 Nginx、应用日志还是系统日志占用。

若日志位于其他挂载点,应分别计算预算,不能把不同文件系统的剩余容量相加后当成一个可用池。

2. 核实日志路径和运行方式

以下命令用于确认 Nginx 服务、主进程和实际日志文件:

systemctl show nginx.service -p ActiveState -p MainPID
sudo /usr/sbin/nginx -t
sudo ls -ld /var/log/nginx
sudo ls -l /var/log/nginx/access.log /var/log/nginx/error.log
getent passwd www-data
getent group adm

后面的示例仅适用于以下条件:

  • Nginx 由 nginx.service 管理。
  • 日志明确写入 /var/log/nginx/access.log 和 /var/log/nginx/error.log。
  • 新日志文件使用 www-adm 和 0640 权限符合当前部署。
  • 日志目录不允许普通业务用户任意修改。

自定义日志路径、多个虚拟主机独立日志、容器标准输出,以及应用自行切分的日志,都需要单独登记。尤其不要让应用内置轮转与 logrotate 同时管理同一组文件。

3. 建立保留责任表

先明确“谁可以删”,再设置自动清理。下面是普通网站的起步示例,不是统一合规标准。

日志对象本地保留起点清理前提验证重点
Nginx 访问、错误日志约7天无未完成的取证、投诉或故障调查请求时间、状态码、轮转后持续写入
应用运行日志7~14天应用负责人确认,排除业务凭证请求标识、异常堆栈、采集完整性
systemd journal7天并限制容量已满足主机排障需要重启、服务失败、内核事件可查询
审计、安全、交易记录按批准政策执行归档成功且允许删除完整性、访问控制、可检索性

本地保留期与业务保留期是两个概念:日志可以只在本地保留7天,同时在异地归档保留更久;但“已经配置采集”不等于“已经确认归档成功”。

二、分步操作:从容量预算到自动轮转

1. 用峰值日志量确定保留天数

采样至少覆盖一个完整业务周期。上线前可先观察24~72小时,上线后继续收集一到两周数据,补足工作日、周末和活动峰值。

不能只看两次 du 的差值来计算日志产量,因为期间可能发生压缩和删除。应优先使用日志采集端的写入字节统计,或记录每次轮转前的原始文件大小,并累计同一类日志的总量。

容量估算可以采用:

所需空间 ≈ 每日原始日志量 × 归档压缩后比例 × 保留天数
          +活动日志和延迟压缩文件余量
          +压缩、轮转过程余量

以下示例统一使用 GiB。假定从实际文件系统中给全部日志划出120GiB,其中 Nginx 预算110GiB、journal 预算2GiB、其他应用日志预算8GiB:

场景每日原始日志压缩后比例保留天数归档空间加16GiB操作余量后
常态参考12GiB25%7天21GiB37GiB
高峰参考35GiB35%7天85.75GiB101.75GiB
延长周期35GiB35%14天171.5GiB187.5GiB

高峰场景的计算为:35 × 0.35 × 7 = 85.75GiB,再加16GiB余量,得到101.75GiB,尚在110GiB的 Nginx 预算内。若改成14天,预算明显不足,应增加空间、减少非必要日志或采用异地归档,而不是直接把配置中的7改成14。

这里的16GiB只是示例余量,其中可预留8GiB给活动文件和延迟压缩文件,另8GiB给压缩及轮转过程。实际应按峰值写入速度重新核算。

2. 备份配置,并消除重复管理

本方案为 Nginx 建立独立的小时级任务,其他系统日志继续使用原有 logrotate 任务,避免扩大变更范围。

以下操作会改变 Nginx 日志的轮转入口。执行前应安排维护窗口,确认系统 logrotate 当前未运行,并将需要保留的历史日志复制到其他磁盘或异地存储,校验后再变更。配置备份不能恢复已经被清理的日志。

sudo systemctl status logrotate.timer --no-pager
sudo systemctl is-active logrotate.service
sudo cat /etc/logrotate.d/nginx
sudo grep -R -n '/var/log/nginx' /etc/logrotate.conf /etc/logrotate.d

如果 logrotate.service 正在运行,等待它结束。若还存在自定义 cron 或其他定时任务,也要检查是否管理同一目录。

以下命令在同一个 shell 会话中执行,备份目录变量后续会继续使用:

BACKUP="/root/log-policy-backup-$(date +%Y%m%d-%H%M%S)"
sudo install -d -m 0700 "$BACKUP"
sudo cp -a /etc/logrotate.conf "$BACKUP/"
sudo cp -a /etc/logrotate.d/nginx "$BACKUP/nginx.original"
sudo cp -a /var/lib/logrotate/status "$BACKUP/logrotate.status"

如果实际路径不存在,应先核对发行版配置,不能忽略报错继续操作。还应确认下文使用的配置和 unit 文件名没有被已有任务占用。

将原 Nginx 规则移出默认包含目录:

sudo mv /etc/logrotate.d/nginx "$BACKUP/nginx.disabled"
sudo install -d -m 0755 /etc/a5-logrotate

影响仅为:默认 logrotate 不再管理该 Nginx 规则,稍后由独立任务接管。若后续配置失败,应立即按回滚步骤恢复,不能长期停留在“旧任务已停、新任务未上线”的状态。

3. 配置按天轮转,并增加大小触发

创建 /etc/a5-logrotate/nginx.conf:

/var/log/nginx/access.log /var/log/nginx/error.log {
    daily
    maxsize 256M
    rotate 168
    maxage 7
    missingok
    notifempty
    compress
    delaycompress
    create 0640 www-data adm
    sharedscripts
    postrotate
        if /bin/systemctl is-active --quiet nginx.service; then
            /bin/systemctl kill --kill-who=main --signal=USR1 nginx.service
        fi
    endscript
}

这组参数需要结合执行频率理解:

  • daily:达到时间条件后轮转,即使文件未到256MiB,也可以每天切分。
  • maxsize 256M:任务执行时检查大小,超过阈值可提前轮转;这里的 M 按二进制容量理解。
  • rotate 168:每个匹配文件最多保留168份旧文件,为每小时一次、约7天的轮转次数留出空间。
  • maxage 7:在该日志发生轮转时,清理超过指定天数的旧归档。
  • delaycompress:最近一份轮转文件暂不压缩,给旧文件句柄退出留出时间。
  • USR1:让 Nginx 主进程重新打开日志文件,不需要为此重启整个网站服务。

maxsize 不是实时文件大小上限,maxage 也不是精确到秒的删除期限。 一小时检查一次,就可能积累接近一小时的额外写入量;没有发生轮转时,旧归档也可能继续存在。需要严格删除期限的日志,应使用经过验证的集中存储生命周期策略。

rotate 168同样不保证任何流量下都完整保留7天。频繁手动强制轮转会更快消耗保留份数;磁盘预算不足时,也不能依靠这几个参数自动完成空间兜底。

4. 建立独立的 systemd 定时任务

创建 /etc/systemd/system/a5-nginx-logrotate.service:

[Unit]
Description=Rotate Nginx logs with dedicated state
ConditionPathExists=/etc/a5-logrotate/nginx.conf

[Service]
Type=oneshot
StateDirectory=a5-nginx-logrotate
StateDirectoryMode=0700
ExecStart=/usr/sbin/logrotate --verbose --state /var/lib/a5-nginx-logrotate/status /etc/a5-logrotate/nginx.conf
Nice=10

创建 /etc/systemd/system/a5-nginx-logrotate.timer:

[Unit]
Description=Check Nginx log rotation hourly

[Timer]
OnCalendar=hourly
Persistent=true
RandomizedDelaySec=60
Unit=a5-nginx-logrotate.service

[Install]
WantedBy=timers.target

独立状态文件避免与系统默认 logrotate 状态混用;降低进程调度优先级可以减少压缩对在线业务的争抢,但仍应观察 CPU 和磁盘延迟。

先校验,不立即轮转:

sudo systemd-analyze verify \
  /etc/systemd/system/a5-nginx-logrotate.service \
  /etc/systemd/system/a5-nginx-logrotate.timer

sudo /usr/sbin/logrotate --debug \
  --state /var/lib/a5-nginx-logrotate/status \
  /etc/a5-logrotate/nginx.conf

--debug只分析,不修改日志和状态。确认没有语法、权限或路径问题后再启用:

sudo systemctl daemon-reload
sudo systemctl enable --now a5-nginx-logrotate.timer
sudo systemctl start a5-nginx-logrotate.service

最后一条会执行真实轮转检查,满足条件时可能压缩或清理旧归档,必须在备份和保留政策确认后执行。不要为了测试直接加 --force;新的独立状态文件首次执行时,小于大小阈值的文件可能只登记状态,需要等待后续周期。

二、分步操作:从容量预算到自动轮转配图

5. 给系统 journal 设置独立额度

Nginx 的 logrotate 不管理 systemd journal。对于持久化 journal,可以通过 drop-in 限制空间。

创建前,先用 systemd-analyze cat-config systemd/journald.conf 查看合并配置,确认没有其他同名或冲突设置。备份已有同名文件;如果原先不存在,也要记录“原先不存在”,供回滚时使用。

创建 /etc/systemd/journald.conf.d/60-log-budget.conf:

[Journal]
SystemMaxUse=2G
SystemKeepFree=20G
RuntimeMaxUse=256M
MaxRetentionSec=7day

其中:

  • SystemMaxUse约束持久化 journal。
  • RuntimeMaxUse约束运行时 journal,不应把它算成 NVMe 上的同一份占用。
  • SystemKeepFree要求 journal 为所在文件系统留出一定空闲,但不能限制其他程序写满磁盘。
  • 时间和容量限制同时存在时,容量压力可能使实际保留时间短于7天。

在维护窗口应用并验证:

sudo systemctl restart systemd-journald
sudo systemctl status systemd-journald --no-pager
sudo journalctl --disk-usage

重启 journal 不等于立刻把所有已有文件降到目标容量。若确有清理需求,先导出所需历史记录,再执行:

sudo journalctl --rotate
sudo journalctl --vacuum-size=2G --vacuum-time=7days

这会删除符合清理条件的已归档 journal,不是只预览。活动文件不在 vacuum 的同一清理范围内,因此总占用仍可能高于2GiB。删除后只能从事先保存的副本恢复历史查询,恢复配置不能恢复数据。

三、结果验证:任务成功只是第一层验收

1. 检查调度、退出码和状态文件

systemctl list-timers a5-nginx-logrotate.timer
systemctl show a5-nginx-logrotate.service -p Result -p ExecMainStatus
sudo journalctl -u a5-nginx-logrotate.service --since today --no-pager
sudo cat /var/lib/a5-nginx-logrotate/status

预期是定时器有下一次执行时间,最近一次服务执行结果为成功,状态文件中出现目标日志路径。oneshot 服务执行结束后显示非运行状态属于正常情况,应看 Result 和退出码,而不是只看是否显示 active。

2. 验证轮转后仍在写新文件

发生真实轮转后,检查当前文件、归档文件及其所有者:

sudo ls -lh /var/log/nginx
sudo tail -n 5 /var/log/nginx/access.log
sudo tail -n 20 /var/log/nginx/error.log

向一个已知会记录访问日志的业务地址发起测试请求,再确认新记录进入当前 access.log。刚轮转后的最近一份归档尚未压缩,是 delaycompress 的预期行为。

如已安装 lsof,再检查是否有已删除但仍被进程占用的文件:

sudo lsof +L1

仅关注输出中的 Nginx 相关项。若日志文件已删除但进程仍持有句柄,目录看起来变小,文件系统空间却未释放,这是典型的“删了日志仍满盘”。

3. 验证实际保留窗口和剩余时间

上线后不能只确认目录里有168份文件,还要抽查最早可查询时间、压缩包可读性,以及采集端是否漏掉轮转边界。

建议监控三个对象:日志目录总占用、所在文件系统可用空间、轮转服务失败。告警阈值应按预算和响应时间设置,而不是只用固定的“磁盘90%”。

例如,剩余40GiB、日志净增长5GiB/小时,则预计约8小时耗尽:

预计耗尽时间 = 可用空间 ÷ 每小时净增长量
             = 40 ÷ 5
             = 8小时

这个值还未包含业务数据增长,因此只能作为上限估计。告警应在值班人员来得及处理时触发。

四、失败处理:由低风险检查到受控止损

现象先检查什么常见原因与处理方向
文件一直不轮转定时器、任务日志、状态文件未达到条件、任务未运行、文件为空或路径不匹配
轮转后当前日志不增长Nginx 服务状态、错误日志、文件所有者重新打开失败或新文件权限不匹配
du下降但df不下降lsof +L1删除文件仍被进程持有,应先正确重新打开日志
文件超过256MiB峰值写入量、最近任务时间大小只在执行时检查,需缩短间隔或提高空间预算
保留不到7天每小时轮转次数、手动执行记录、总容量数量限制先触发,或容量规划不足
journal不足7天journal实际增长及容量限制容量上限优先限制了可保留窗口

如果 Nginx 仍写旧文件,先确认主进程确属目标服务,再发送重新打开信号:

sudo systemctl kill --kill-who=main --signal=USR1 nginx.service

该操作影响 Nginx 日志文件句柄,不是删除日志,也不是重启服务。执行后再次确认新日志有写入;如果失败,应检查服务管理方式和权限,不要直接用重启掩盖配置问题。

磁盘已经接近耗尽时,按以下顺序止损:

  1. 查找异常增长源,关闭误开启的调试日志或修复重复报错。
  2. 暂停不必要的高流量批处理,给轮转和归档留出空间。
  3. 将确认不再写入的旧归档传到其他存储,校验数量、大小和校验和。
  4. 经保留责任人批准后,只删除明确列出的旧归档文件。

不要对整个 /var/log 执行递归删除,也不要批量截断活动日志。删除后的历史记录无法通过回滚配置找回。空间极少时也不要盲目压缩大文件,因为生成压缩文件期间还需要额外空间和 I/O。

如果将检查间隔从一小时改为15分钟,每天最多可能轮转96次,7天对应672份,而不是168份;必须同步评估文件数量、压缩开销和磁盘预算。

五、回滚:恢复管理入口,不承诺恢复已删数据

回滚分为“配置恢复”和“历史数据恢复”。前者可以通过备份完成,后者只能依靠事先归档的副本。

1. 回滚 Nginx 轮转策略

先停用独立定时器,并确认当前轮转服务已经结束:

sudo systemctl disable --now a5-nginx-logrotate.timer
sudo systemctl is-active a5-nginx-logrotate.service

如果服务仍在运行,应等待完成,不要在压缩、改名过程中直接中断。然后使用准备阶段保存的备份目录恢复原规则:

sudo cp -a "$BACKUP/nginx.original" /etc/logrotate.d/nginx
sudo /usr/sbin/logrotate --debug /etc/logrotate.conf

若已换用新 shell,需要先将 BACKUP 重新设为实际备份目录,不能复制一个未经确认的路径。

默认状态文件在本方案中没有被修改,通常无需恢复旧状态;盲目覆盖状态可能导致重复轮转。独立配置、unit 和状态文件可以暂时保留用于审计,但必须确认其定时器已禁用,不再与默认规则争抢。

恢复原策略后,下一次默认任务可能按旧时间记录立即轮转,并处理当前归档。启用前同样要检查历史日志备份和原有保留规则。

2. 回滚 journal 限额

若变更前已有 60-log-budget.conf,恢复备份;若原先不存在,将新增文件移出 journald.conf.d,再重启 systemd-journald。不要改动目录中的其他策略文件。

恢复后检查服务状态、合并配置和最新日志是否可查询。先前 vacuum 删除的记录不会重新出现,如需调查,应从异地副本读取,不要把归档文件混入活动目录后交给旧规则自动处理。

3. 留下变更审计记录

每次调整至少记录变更时间、操作者、预算依据、保留周期、配置版本、验证结果和回滚位置。将配置纳入版本管理,但不要提交业务日志、请求中的凭据或其他敏感内容。

自动化部署应区分“配置发生变化”和“每次任务执行”:只有配置变化时才应用对应操作,不能每次部署都执行 vacuum 或强制轮转。

六、上线验收检查清单

  • [ ] 已以实际文件系统容量建立预算,没有直接把960GB全部分配给日志。
  • [ ] 已区分 Nginx、应用、journal 和审计日志,各自有负责人及保留政策。
  • [ ] 已按峰值日志量和压缩比例核算周期,并预留活动文件、延迟压缩和操作空间。
  • [ ] 同一组 Nginx 日志仅由一个轮转入口管理,默认任务与独立任务没有重叠。
  • [ ] 配置调试通过,定时器有下一次执行时间,任务退出码正常。
  • [ ] 真实轮转后请求仍写入当前日志,错误日志没有新增权限或打开失败信息。
  • [ ] 已核对文件描述符,未发现目标日志被删除后仍长期占用空间。
  • [ ] 已抽查最早可查询记录和压缩包可读性,没有用文件份数替代时间验证。
  • [ ] 告警同时覆盖容量、增长速度、预计耗尽时间和任务失败。
  • [ ] 清理前已确认归档成功,并明确配置回滚不能恢复已删除记录。
  • [ ] 业务增长、调试开关变化或检查频率调整后,会重新计算容量与保留数量。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/3072.html

相关推荐