1. 为什么需要RabbitMQ高可用架构RabbitMQ作为企业级消息中间件在生产环境中承担着关键的业务解耦和异步通信职责。当单节点出现故障时未消费的消息会堆积在队列中导致依赖这些消息的下游服务完全停滞。去年我们电商系统就经历过一次惨痛的教训——促销活动期间RabbitMQ主节点磁盘故障导致订单积压6小时直接损失超百万。高可用方案的核心在于消除单点故障。通过搭建RabbitMQ集群配合HAProxy实现负载均衡可以达到以下效果任意节点宕机时其他节点继续提供服务消息会在集群节点间自动镜像需配置策略客户端连接通过VIP访问不感知后端节点变化横向扩展时只需向集群添加新节点2. 集群搭建与镜像队列配置2.1 基础环境准备准备三台CentOS 7服务器内存建议4G主机名分别设置为mq01、mq02、mq03。修改每台机器的/etc/hosts文件添加集群节点解析192.168.1.101 mq01 192.168.1.102 mq02 192.168.1.103 mq03安装Erlang和RabbitMQ版本需严格匹配# 安装Erlang 23.x yum install -y https://packages.erlang-solutions.com/erlang/rpm/centos/7/x86_64/esl-erlang_23.3.4.8-1~centos~7_amd64.rpm # 安装RabbitMQ 3.8.x curl -s https://packagecloud.io/install/repositories/rabbitmq/rabbitmq-server/script.rpm.sh | sudo bash yum install -y rabbitmq-server-3.8.162.2 组建集群在mq01上执行systemctl start rabbitmq-server rabbitmq-plugins enable rabbitmq_management rabbitmqctl add_user admin Pssw0rd123 rabbitmqctl set_user_tags admin administrator rabbitmqctl set_permissions -p / admin .* .* .* # 获取cookie值 cat /var/lib/rabbitmq/.erlang.cookie将mq01的cookie值同步到mq02和mq03# 在mq02和mq03上执行 systemctl stop rabbitmq-server echo 此处替换为mq01的cookie值 /var/lib/rabbitmq/.erlang.cookie chown rabbitmq:rabbitmq /var/lib/rabbitmq/.erlang.cookie chmod 400 /var/lib/rabbitmq/.erlang.cookie systemctl start rabbitmq-server # 将节点加入集群在mq02/mq03执行 rabbitmqctl stop_app rabbitmqctl join_cluster rabbitmq01 rabbitmqctl start_app验证集群状态rabbitmqctl cluster_status应看到三个节点都显示为running_nodes。2.3 配置镜像队列生产环境必须设置队列镜像策略否则节点宕机会导致消息丢失rabbitmqctl set_policy ha-all ^ {ha-mode:all,ha-sync-mode:automatic}这条策略表示ha-mode:all队列在所有节点镜像ha-sync-mode:automatic新节点自动同步队列数据^匹配所有队列名称重要提示ha-mode也可以设置为exactly并指定副本数如2在可靠性和性能间取得平衡。全镜像会影响写入性能。3. HAProxy负载均衡配置3.1 安装与基础配置在独立服务器或某个MQ节点上安装HAProxyyum install -y haproxy编辑/etc/haproxy/haproxy.cfg关键配置如下global log 127.0.0.1 local2 maxconn 4000 daemon defaults mode tcp timeout connect 5s timeout client 50s timeout server 50s listen rabbitmq_admin bind *:15672 mode http balance roundrobin server mq01 192.168.1.101:15672 check server mq02 192.168.1.102:15672 check server mq03 192.168.1.103:15672 check listen rabbitmq_cluster bind *:5672 mode tcp balance roundrobin server mq01 192.168.1.101:5672 check inter 5s rise 2 fall 3 server mq02 192.168.1.102:5672 check inter 5s rise 2 fall 3 server mq03 192.168.1.103:5672 check inter 5s rise 2 fall 33.2 关键参数解析双监听端口5672AMQP协议端口必须用TCP模式mode tcp15672管理界面端口使用HTTP模式方便健康检查健康检查机制inter 5s每5秒检查一次节点存活rise 2连续2次检查成功标记节点为健康fall 3连续3次检查失败剔除节点负载均衡算法roundrobin轮询调度适合MQ这种长连接场景可替换为leastconn最少连接应对连接数不均情况启动HAProxysystemctl start haproxy systemctl enable haproxy4. 客户端连接与故障转移测试4.1 生产端示例代码使用Python客户端连接HAProxy的VIPimport pika credentials pika.PlainCredentials(admin, Pssw0rd123) parameters pika.ConnectionParameters( hosthaproxy-server-ip, port5672, credentialscredentials, heartbeat30, connection_attempts3, retry_delay5 ) connection pika.BlockingConnection(parameters) channel connection.channel() # 声明镜像队列 channel.queue_declare( queuepayment_queue, durableTrue, arguments{x-message-ttl: 3600000} ) channel.basic_publish( exchange, routing_keypayment_queue, bodytest message, propertiespika.BasicProperties(delivery_mode2) )4.2 故障模拟测试节点宕机测试# 在mq01上执行 systemctl stop rabbitmq-server观察HAProxy日志会自动剔除该节点生产/消费端无感知短暂重连管理界面仍可通过另外两个节点访问网络分区测试# 模拟mq02网络隔离 iptables -A INPUT -p tcp --dport 4369 -j DROP iptables -A INPUT -p tcp --dport 25672 -j DROP此时集群会分裂为两个分区RabbitMQ会自动处理可通过rabbitmqctl cluster_status观察5. 监控与运维要点5.1 关键监控指标通过PrometheusGranfana监控HAProxy监控活跃连接数scur队列深度qcur后端节点健康状态RabbitMQ监控# 启用Prometheus插件 rabbitmq-plugins enable rabbitmq_prometheus核心指标消息堆积数queue_messages_ready未确认消息queue_messages_unacked磁盘水位disk_free_limit5.2 日常维护命令队列同步状态检查rabbitmqctl list_queues name slave_pids synchronised_slave_pids节点维护操作# 优雅移除节点 rabbitmqctl forget_cluster_node rabbitmq03 # 重启后重新加入集群 rabbitmqctl start_app紧急恢复# 当集群无法启动时需在所有节点执行 rabbitmqctl force_reset6. 性能优化建议磁盘IO优化# 使用SSD磁盘 # 修改/etc/rabbitmq/rabbitmq.conf disk_free_limit.absolute 5GB queue_index_embed_msgs_below 4096内存管理# 设置内存阈值 rabbitmqctl set_vm_memory_high_watermark 0.6连接调优# 在HAProxy配置中添加 tune.ssl.default-dh-param 2048 maxconn 5000这套架构经过我们双11大促验证在消息峰值10万/分钟的情况下集群节点故障切换时间控制在15秒内消息零丢失。关键在于所有队列必须设置镜像HAProxy健康检查间隔要合理太频繁会增加负载客户端必须配置自动重连机制 
长河君 · 2026/11/6 4:00:16 · 阅读 1.2k RabbitMQ高可用集群搭建与HAProxy负载均衡配置
1. 为什么需要RabbitMQ高可用架构RabbitMQ作为企业级消息中间件在生产环境中承担着关键的业务解耦和异步通信职责。当单节点出现故障时未消费的消息会堆积在队列中导致依赖这些消息的下游服务完全停滞。去年我们电商系统就经历过一次惨痛的教训——促销活动期间RabbitMQ主节点磁盘故障导致订单积压6小时直接损失超百万。高可用方案的核心在于消除单点故障。通过搭建RabbitMQ集群配合HAProxy实现负载均衡可以达到以下效果任意节点宕机时其他节点继续提供服务消息会在集群节点间自动镜像需配置策略客户端连接通过VIP访问不感知后端节点变化横向扩展时只需向集群添加新节点2. 集群搭建与镜像队列配置2.1 基础环境准备准备三台CentOS 7服务器内存建议4G主机名分别设置为mq01、mq02、mq03。修改每台机器的/etc/hosts文件添加集群节点解析192.168.1.101 mq01 192.168.1.102 mq02 192.168.1.103 mq03安装Erlang和RabbitMQ版本需严格匹配# 安装Erlang 23.x yum install -y https://packages.erlang-solutions.com/erlang/rpm/centos/7/x86_64/esl-erlang_23.3.4.8-1~centos~7_amd64.rpm # 安装RabbitMQ 3.8.x curl -s https://packagecloud.io/install/repositories/rabbitmq/rabbitmq-server/script.rpm.sh | sudo bash yum install -y rabbitmq-server-3.8.162.2 组建集群在mq01上执行systemctl start rabbitmq-server rabbitmq-plugins enable rabbitmq_management rabbitmqctl add_user admin Pssw0rd123 rabbitmqctl set_user_tags admin administrator rabbitmqctl set_permissions -p / admin .* .* .* # 获取cookie值 cat /var/lib/rabbitmq/.erlang.cookie将mq01的cookie值同步到mq02和mq03# 在mq02和mq03上执行 systemctl stop rabbitmq-server echo 此处替换为mq01的cookie值 /var/lib/rabbitmq/.erlang.cookie chown rabbitmq:rabbitmq /var/lib/rabbitmq/.erlang.cookie chmod 400 /var/lib/rabbitmq/.erlang.cookie systemctl start rabbitmq-server # 将节点加入集群在mq02/mq03执行 rabbitmqctl stop_app rabbitmqctl join_cluster rabbitmq01 rabbitmqctl start_app验证集群状态rabbitmqctl cluster_status应看到三个节点都显示为running_nodes。2.3 配置镜像队列生产环境必须设置队列镜像策略否则节点宕机会导致消息丢失rabbitmqctl set_policy ha-all ^ {ha-mode:all,ha-sync-mode:automatic}这条策略表示ha-mode:all队列在所有节点镜像ha-sync-mode:automatic新节点自动同步队列数据^匹配所有队列名称重要提示ha-mode也可以设置为exactly并指定副本数如2在可靠性和性能间取得平衡。全镜像会影响写入性能。3. HAProxy负载均衡配置3.1 安装与基础配置在独立服务器或某个MQ节点上安装HAProxyyum install -y haproxy编辑/etc/haproxy/haproxy.cfg关键配置如下global log 127.0.0.1 local2 maxconn 4000 daemon defaults mode tcp timeout connect 5s timeout client 50s timeout server 50s listen rabbitmq_admin bind *:15672 mode http balance roundrobin server mq01 192.168.1.101:15672 check server mq02 192.168.1.102:15672 check server mq03 192.168.1.103:15672 check listen rabbitmq_cluster bind *:5672 mode tcp balance roundrobin server mq01 192.168.1.101:5672 check inter 5s rise 2 fall 3 server mq02 192.168.1.102:5672 check inter 5s rise 2 fall 3 server mq03 192.168.1.103:5672 check inter 5s rise 2 fall 33.2 关键参数解析双监听端口5672AMQP协议端口必须用TCP模式mode tcp15672管理界面端口使用HTTP模式方便健康检查健康检查机制inter 5s每5秒检查一次节点存活rise 2连续2次检查成功标记节点为健康fall 3连续3次检查失败剔除节点负载均衡算法roundrobin轮询调度适合MQ这种长连接场景可替换为leastconn最少连接应对连接数不均情况启动HAProxysystemctl start haproxy systemctl enable haproxy4. 客户端连接与故障转移测试4.1 生产端示例代码使用Python客户端连接HAProxy的VIPimport pika credentials pika.PlainCredentials(admin, Pssw0rd123) parameters pika.ConnectionParameters( hosthaproxy-server-ip, port5672, credentialscredentials, heartbeat30, connection_attempts3, retry_delay5 ) connection pika.BlockingConnection(parameters) channel connection.channel() # 声明镜像队列 channel.queue_declare( queuepayment_queue, durableTrue, arguments{x-message-ttl: 3600000} ) channel.basic_publish( exchange, routing_keypayment_queue, bodytest message, propertiespika.BasicProperties(delivery_mode2) )4.2 故障模拟测试节点宕机测试# 在mq01上执行 systemctl stop rabbitmq-server观察HAProxy日志会自动剔除该节点生产/消费端无感知短暂重连管理界面仍可通过另外两个节点访问网络分区测试# 模拟mq02网络隔离 iptables -A INPUT -p tcp --dport 4369 -j DROP iptables -A INPUT -p tcp --dport 25672 -j DROP此时集群会分裂为两个分区RabbitMQ会自动处理可通过rabbitmqctl cluster_status观察5. 监控与运维要点5.1 关键监控指标通过PrometheusGranfana监控HAProxy监控活跃连接数scur队列深度qcur后端节点健康状态RabbitMQ监控# 启用Prometheus插件 rabbitmq-plugins enable rabbitmq_prometheus核心指标消息堆积数queue_messages_ready未确认消息queue_messages_unacked磁盘水位disk_free_limit5.2 日常维护命令队列同步状态检查rabbitmqctl list_queues name slave_pids synchronised_slave_pids节点维护操作# 优雅移除节点 rabbitmqctl forget_cluster_node rabbitmq03 # 重启后重新加入集群 rabbitmqctl start_app紧急恢复# 当集群无法启动时需在所有节点执行 rabbitmqctl force_reset6. 性能优化建议磁盘IO优化# 使用SSD磁盘 # 修改/etc/rabbitmq/rabbitmq.conf disk_free_limit.absolute 5GB queue_index_embed_msgs_below 4096内存管理# 设置内存阈值 rabbitmqctl set_vm_memory_high_watermark 0.6连接调优# 在HAProxy配置中添加 tune.ssl.default-dh-param 2048 maxconn 5000这套架构经过我们双11大促验证在消息峰值10万/分钟的情况下集群节点故障切换时间控制在15秒内消息零丢失。关键在于所有队列必须设置镜像HAProxy健康检查间隔要合理太频繁会增加负载客户端必须配置自动重连机制