Nginx请求复制技术：mirror模块与Lua方案对比

1. 项目概述

在分布式系统架构中，经常需要将同一份请求数据同时发送到多个后端服务进行处理。传统做法是在业务代码中显式调用多个API接口，这种方式不仅增加了代码复杂度，还会影响系统性能。作为高性能的反向代理服务器，Nginx原生支持请求复制功能，能够以接近零成本的方式实现请求的多路分发。

我最近在一个日志采集项目中就遇到了这样的需求：需要将客户端的请求同时发送到实时分析服务和离线存储服务。经过对比测试，最终选择了Nginx的mirror模块方案，相比传统Java多线程调用方式，吞吐量提升了3倍以上，CPU负载降低了60%。下面就来详细分享这两种Nginx请求复制方案的实现细节。

2. 核心方案对比

2.1 mirror模块方案

mirror是Nginx 1.13.4版本后内置的功能模块，它能在处理主请求的同时创建镜像请求。这种方案的主要特点是：

• 零延迟：镜像请求与主请求并行发出
• 低开销：由Nginx内核直接处理，无需额外进程
• 非阻塞：不等待镜像请求响应

重要提示：使用前需确认Nginx已编译包含ngx_http_mirror_module模块，可通过nginx -V命令查看编译参数。如果是老版本Nginx，需要重新编译安装。

2.1.1 配置实例解析

下面是一个完整的生产级配置示例，包含负载均衡和健康检查：

nginx复制upstream primary_backend {
    server 192.168.1.10:8080 weight=5;
    server 192.168.1.11:8080;
    check interval=3000 rise=2 fall=3 timeout=1000;
}

upstream mirror_backend {
    server 192.168.1.20:8081;
    server 192.168.1.21:8081 backup;
}

server {
    listen 80;
    server_name api.example.com;
    
    location / {
        # 主请求处理
        proxy_pass http://primary_backend;
        proxy_set_header X-Real-IP $remote_addr;
        
        # 镜像配置
        mirror /mirror;
        mirror_request_body on;  # 支持POST请求体复制
        
        # 超时控制
        proxy_connect_timeout 2s;
        proxy_read_timeout 5s;
    }
    
    location = /mirror {
        internal;
        proxy_pass http://mirror_backend$request_uri;
        proxy_pass_request_body on;
        proxy_set_header X-Mirrored "true";
    }
}

2.1.2 关键参数说明

1. mirror指令：

   • 语法：mirror uri | off
   • 默认：mirror off
   • 上下文：http, server, location

2. mirror_request_body：

   • 控制是否复制请求体
   • 对于POST/PUT等含请求体的方法必须开启

3. internal限制：

   • 防止客户端直接访问镜像端点
   • 确保只能通过mirror指令内部调用

2.1.3 性能优化建议

1. 连接池配置：

nginx复制upstream {
    keepalive 32;  # 保持长连接
}

2. 缓冲区设置：

nginx复制proxy_buffers 8 16k;
proxy_buffer_size 32k;

3. 日志分离：

nginx复制access_log /var/log/nginx/mirror.log mirror;

2.2 Lua脚本方案

当需要更复杂的请求处理逻辑时，可以使用OpenResty的Lua脚本能力。相比mirror模块，Lua方案的优势在于：

• 支持条件复制（如按请求头/参数过滤）
• 可修改镜像请求内容
• 支持异步/延迟发送
• 能获取镜像响应结果

2.2.1 环境搭建

推荐使用OpenResty官方提供的Docker镜像快速搭建环境：

bash复制docker pull openresty/openresty:1.21.4.1-alpine
docker run -d -p 8090:80 -v $PWD/conf:/etc/nginx/conf.d openresty/openresty

2.2.2 高级配置示例

以下实现支持动态目标选择和请求修改：

nginx复制server {
    listen 8090;
    
    location / {
        content_by_lua_block {
            local http = require "resty.http"
            local cjson = require "cjson"
            
            -- 主请求处理
            local res = ngx.location.capture("/primary", {
                share_all_vars = true
            })
            
            -- 动态确定镜像目标
            local mirror_target = "default"
            if ngx.var.arg_debug == "1" then
                mirror_target = "debug"
            end
            
            -- 异步发送镜像请求
            ngx.timer.at(0, function()
                local httpc = http.new()
                httpc:set_timeouts(1000, 2000, 3000)
                
                -- 修改请求头
                local headers = ngx.req.get_headers()
                headers["X-Target-Type"] = mirror_target
                
                local ok, err = httpc:request_uri(
                    "http://mirror-backend"..ngx.var.request_uri, {
                        method = ngx.var.request_method,
                        body = ngx.var.request_body,
                        headers = headers
                    })
                
                if not ok then
                    ngx.log(ngx.ERR, "Mirror failed: ", err)
                end
            end)
            
            ngx.say(res.body)
        }
    }
    
    location /primary {
        proxy_pass http://primary-backend;
    }
}

2.2.3 关键组件说明

1. lua-resty-http：

   • OpenResty的HTTP客户端库
   • 支持连接池和多种超时设置

2. ngx.timer.at：

   • 实现异步非阻塞调用
   • 第一个参数0表示立即执行

3. cjson库：

   • 高性能JSON处理
   • 适用于API网关场景

3. 生产环境实践

3.1 监控与告警配置

无论采用哪种方案，都需要完善的监控：

1. Prometheus监控示例：

nginx复制location /metrics {
    content_by_lua_block {
        local metric = require "resty.prometheus"
        local prometheus = metric.new()
        
        prometheus:counter("nginx_mirror_requests_total", 
            "Total mirror requests", 
            {"status"})
        
        prometheus:set_current_peer("mirror-backend")
        prometheus:inc("nginx_mirror_requests_total", 1, "200")
    }
}

2. 关键监控指标：
   • 镜像请求成功率
   • 镜像延迟百分位值
   • 后端服务健康状态

3.2 压力测试数据

使用wrk进行基准测试（4核8G环境）：

3.3 常见问题排查

1. 镜像请求未发送：

   • 检查Nginx版本是否支持mirror
   • 确认mirror指令位置正确
   • 查看error_log是否有权限错误

2. POST请求体丢失：

   • 确保设置mirror_request_body on
   • 检查客户端是否发送了Content-Length
   • 测试时使用curl -X POST -d 'test'

3. Lua方案性能差：

   • 检查是否使用了连接池
   • 确认没有阻塞操作
   • 适当调整lua_code_cache

4. 进阶应用场景

4.1 灰度发布方案

结合mirror实现流量复制对比：

nginx复制location / {
    mirror /canary;
    proxy_pass http://production;
    
    # 按比例分流
    if ($arg_userid % 100 < 10) {
        proxy_pass http://canary;
    }
}

location = /canary {
    internal;
    proxy_pass http://canary$request_uri;
    
    # 标记为影子流量
    proxy_set_header X-Shadow "true";
}

4.2 请求录制回放

使用Lua脚本保存请求到Redis：

lua复制local redis = require "resty.redis"
local red = redis:new()

local ok, err = red:connect("127.0.0.1", 6379)
if not ok then
    ngx.log(ngx.ERR, "Redis connect failed: ", err)
    return
end

-- 存储原始请求
local key = "req:" .. ngx.var.request_uri
red:set(key, ngx.var.request_body)
red:expire(key, 86400)

4.3 安全防护措施

1. 限流配置：

nginx复制limit_req_zone $binary_remote_addr zone=mirror:10m rate=100r/s;

location /mirror {
    limit_req zone=mirror burst=50;
}

2. 敏感数据过滤：

lua复制if string.match(ngx.var.request_body, "password") then
    ngx.log(ngx.WARN, "Sensitive data detected")
    ngx.exit(403)
end

在实际项目中使用Nginx实现请求复制时，有几个经验值得特别注意：

1. 对于金融级业务，建议在mirror和Lua方案之外增加本地磁盘日志作为最终保障
2. 当镜像目标不可用时，Nginx默认会静默失败，生产环境应该配置备用集群
3. 高并发场景下，Lua方案的GC压力会明显增加，需要适当调整lua_shared_dict大小