rsyslog日志队列如何工作,内存队列与磁盘队列该怎么选
很多人第一次接触rsyslog队列时会有一个反常的观察:明明配置了转发到远端日志服务器,网络抖动几秒钟,本机日志却一条没丢;而另一些机器上,同样的转发配置,网络一断日志就开始报错甚至丢失。差异往往不在转发本身,而在于队列是否被正确启用,以及内存队列和磁盘队列的取舍。rsyslog的队列本质上是一个位于日志生产者(各个input)和日志消费者(action)之间的缓冲区,理解它的工作机制,才能判断什么时候用内存队列就够了,什么时候必须上磁盘队列。
队列在rslog架构中的位置
rsyslog处理日志的流程可以简化为三段:输入模块接收日志(如imuxsock、imjournal、imudp),主队列对日志进行排队和调度,规则引擎匹配后交给各个action。每个action还可以有自己的动作队列。也就是说,rsyslog里其实存在两类队列:
- 主队列(main queue):位于规则引擎之前,缓冲所有待处理的日志
- 动作队列:每个action(如转发到远端、写入文件、写入数据库)各自拥有一个,缓冲该动作尚未完成处理的日志
这个位置决定了队列的作用:当消费者速度慢于生产者时,队列负责吸收差值。最典型的场景是转发到远端日志服务器——网络往返延迟、对端处理能力不足、TCP重传,都会让action的消费速度波动。没有队列时,rsyslog只能阻塞或丢弃;有队列时,日志先排队,等链路恢复再陆续发出。
需要注意一个概念边界:队列解决的是临时性速率差,不是持久性容量差。如果远端服务器宕机一小时,再大的内存队列也会被填满,之后的处置方式取决于你配置的队列参数和磁盘辅助选项。
队列的工作机制
rsyslog的队列有三个关键工作参数,它们共同决定了队列的行为:
- queue.size:队列能容纳的消息条数上限
- queue.type:队列类型,可选fixedarray、linkedList、disk
- queue.dequeuebatchsize:消费者每次批量取走的消息数
内存队列分两种实现。fixedarray使用预分配的定长数组,内存占用固定、性能最好,适合队列大小较大但消息量稳定的场景;linkedList按需分配节点,队列未满时占用更少内存,适合设置很大的size上限但平时消息量不高的场景。
磁盘队列(disk)把消息写到磁盘文件(由queue.filename指定,工作目录由$WorkDirectory决定),通过queuetype相关的索引文件管理读写位置。它不占内存、重启不丢,但每条消息都要经历序列化、写盘、反序列化,吞吐通常比内存队列低一个量级。
真正的实用形态是磁盘辅助的内存队列,也就是配置了queue.filename的内存队列。它的工作方式是:

- 正常情况下,消息全部留在内存队列中,不落盘
- 主队列水位达到queue.highwatermark(如queue.size的70%)时,触发enqueuing进入磁盘阶段,后续消息转写磁盘
- 内存水位降到queue.lowwatermark(如size的20%)以下时,rsyslog把磁盘中的消息读回内存继续处理,回到正常模式
这套机制类似操作系统的两级缓存:内存负责高性能的常态处理,磁盘负责突发时的溢出承接。
队列的另一个关键机制是“何时算处理完成”。对写本地文件的action来说,消息交给文件写接口就算完成;但对转发这种网络action,rsyslog在收到TCP确认前会把消息保留在动作队列里。这就是开头那个反常现象的答案:如果为转发action配置了磁盘辅助队列,网络中断期间消息安全地躺在磁盘队列文件里,恢复后继续发送;如果只有默认的内存队列且队列被打满,新消息就会按queue.discardmark和丢弃策略被处理——默认情况下甚至可能直接丢弃或阻塞整个主队列。
内存队列与磁盘队列的对比与选择
两种方案的差异可以从几个维度看:
| 维度 | 纯内存队列 | 磁盘队列 / 磁盘辅助内存队列 |
|---|---|---|
| 吞吐 | 高,每秒数十万条量级取决于硬件 | 明显更低,每条消息有落盘开销 |
| 内存占用 | fixedarray固定、linkedList按需 | 磁盘辅助模式常态接近内存队列 |
| 进程重启/崩溃 | 默认丢失队列中消息(除非配置checkpoint) | 队列文件中消息保留 |
| 磁盘压力 | 无 | 溢出阶段产生持续写入IO |
| 适用场景 | 消费稳定、容忍秒级抖动 | 跨网络转发、对端可能长时间不可用 |
选择逻辑可以归纳为条件化结论:
- 日志只写本地文件、消费速度基本恒定:默认的内存队列(甚至默认参数)通常足够,无需为队列增加复杂度
- 日志转发到远端,能容忍主机崩溃丢几分钟日志:内存队列设置合理的size和highwatermark即可
- 日志转发到远端,要求rsyslog重启或远端宕机期间本机日志不丢:必须配置磁盘辅助的内存队列,指定queue.filename
- 极端顺序敏感或期望rsyslog关机前把队列刷到磁盘并被下次读取:进一步配合queue.saveonshutdown
容量估算的思路也很直接。假设一台服务器平均每秒产生2000条日志,每条日志平均500字节(考虑序列化后的开销按600字节算),那么每秒数据量约1.2 MB。如果希望远端宕机30分钟后日志不丢,需要缓冲的总量约为 1.2 MB × 1800秒 ≈ 2.16 GB,约合 360 万条消息(十进制口径)。把这个量级全放进内存显然不现实,放进磁盘辅助队列则需要预留相应的磁盘空间和写入能力。这也解释了为什么磁盘队列的size限制通常要单独设置且可以远大于内存队列。
对于需要承接日志采集、转发与留存的业务,A5数据提供中国香港、美国、日本、韩国、新加坡等地区的物理服务器资源,覆盖常规建站、AMD计算、存储及多IP等产品方向。服务器可搭配SSD、NVMe或大容量机械硬盘,并按地区提供相应的CN2、国际及其他线路方案,为日志服务的本地处理、跨地域转发和长期归档提供硬件与网络资源基础。
影响队列表现的因素
队列实际表现受几个变量影响,配置时要一并考虑:
- 消息突发形态:日志量往往不是均匀的。应用报错风暴可能在几秒内压入平时一分钟的消息量,队列容量的估算应按突发峰值而不是平均值
- 磁盘性能:磁盘辅助队列的溢出阶段,写盘速度直接决定能否跟上生产速率。机械盘在突发写入时可能成为新瓶颈,SSD或本地NVMe盘明显更适合放队列文件
- WorkDirectory的位置:队列文件应放在空间充足、写入快的分区,不要和系统关键目录混用,避免队列膨胀把根分区写满
- 转发协议:TCP转发在链路恢复后会重放队列,UDP转发本身不可靠,队列再大也无法保证对端收到
- 主队列与动作队列的关系:如果转发action的队列满了,而主队列没有为该action启用分流,积压可能传导回主队列,影响其他不相关的日志处理
如何验证队列在正常工作
配置完成后,验证比信任配置更重要。可以用以下步骤确认队列行为:
- 确认队列配置被加载。使用如下命令查看当前生效配置中队列相关参数:
rsyslogd -N1 | grep -i queue
- 观察队列实时状态。rsyslog支持通过impstats模块周期性输出队列统计,在配置中启用:
module(load="impstats" interval="10" severity="7" log.syslog="off" log.default="on")
之后在日志中会出现类似如下的周期性统计(示例):
main Q: size=3124, enqueued=8523110, full=0, discarded.full=0, discarded.nf=0
action-1-builtin: size=18420, enqueued=8522000, full=2, discarded.full=0
其中size是当前排队条数,full表示队列被打满的次数,discarded.full是被丢弃的消息数。这几个字段是判断队列健康度的核心指标:size长期接近queue.size说明消费端跟不上了;discarded.full大于0说明已经在丢日志,需要扩容或排查消费端。
- 构造压力场景验证溢出行为。以转发场景为例,可以临时断开到远端日志服务器的网络(或在测试环境用防火墙规则临时拦截转发端口),同时用logger快速写入大量测试消息,观察impstats输出中磁盘辅助队列是否进入enqueuing状态、队列文件是否在$WorkDirectory下生成。测试结束后恢复网络,确认积压消息被陆续发出、队列文件被清理。
修改rsyslog配置属于影响日志完整性的操作,改配置前先备份原文件,改动后用rsyslogd -N1做语法校验再重启服务;如果配置错误导致rsyslog无法启动,可以还原备份文件回滚。
适用限制与判断边界
rsyslog队列的保障是有明确边界的,以下几种情况不能指望队列兜底:
- 主机级故障:磁盘队列只能抵御rsyslog进程重启,不能抵御整机断电或系统盘损坏。需要更高保障时应结合独立的日志接收端和双写架构
- 磁盘空间耗尽:磁盘辅助队列的文件受maxDiskSpace限制,超过后行为和内存队列打满一样。队列不是无限缓冲,容量规划仍是必要工作
- 消息可靠性依赖传输协议:队列保证的是“rsyslog发出”,TCP保证的是“网络送达”,两者叠加才有端到端可靠性,UDP转发不在此列
- 性能取舍真实存在:对所有action都配大磁盘队列是不必要的重负。只有跨网络、对端可用性不确定的转发链路才值得付落盘开销
一个可执行的判断流程:先用impstats观察一段时间,确认哪些action出现积压;只对确实存在速率差的action配置磁盘辅助队列;容量按“预期的最长对端中断时间 × 峰值消息速率”估算,并核对队列文件所在分区的剩余空间能覆盖maxDiskSpace。当观察到的size长期低位、full和discarded指标长期为零时,说明当前队列配置与实际负载是匹配的,就不必继续加码了。
本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/5129.html

