Nginx中使用keepalive实现保持上游长连接实现提高吞吐量示例与测试

场景

HTTP1 .1之后协议支持持久连接，也就是长连接，优点在于在一个TCP连接上可以传送多个HTTP请求和响应，

减少了建立和关闭连接的消耗和延迟。

如果我们使用了nginx去作为反向代理或者负载均衡，从客户端过来的长连接请求就会被转换成短连接发送给服务器端。

为了支持长连接，我们需要在nginx服务器上做一些配置。

在 upstream 上下文中使用 keepalive 指令，保持上游服务器连接开放以供复用：

此处可参考官方文档：

Module ngx_http_upstream_module

注：

博客：
霸道流氓气质-CSDN博客

实现

1、构件测试环境，首先启动一个tomcat服务，然后用nginx代理为上游服务器，测试不加与加keepalive情况下的吞吐量

使用Docker部署最新版Tomcat

拉取镜像

docker pull tomcat

启动容器

docker run -itd  --name my-tomcat2 -p 800:8080 tomcat

注意最新版的tomcat使用docker启动后访问端口会提示404，这是有因为容器内webapps目录为空，改成了webapps.dist目录

进入容器并修改目录

docker exec -it my-tomcat-container /bin/bash

删除webapps目录，并将webapps.dist目录重命名为webapps：

rm -rf webapps && mv webapps.dist webapps

重启容器此时访问tomcat正常。

2、使用nginx配置代理到上游服务器tomcat

修改nginx的配置文件

upstream test {server 192.168.8.129:800;}server {listen       800;server_name  127.0.0.1;location / {proxy_pass http://test;}error_page   500 502 503 504  /50x.html;location = /50x.html {root   html;}}

这里的800为上面docker启动的tomcat的路径的端口

启动nginx，验证代理前后的地址均访问正常

3、使用JMeter进行压测

使用教程参考如下：

Jmeter进行http接口压力测试：

Jmeter进行http接口压力测试_接口压测两万量-CSDN博客

测试时线程组分配50线程数，循环次数100

查看聚合报告可知结果为

然后在nginx的配置文件中添加keepalive的配置

upstream test {server 192.168.8.129:800;keepalive 32;}server {listen       800;server_name  127.0.0.1;location / {proxy_pass http://test;proxy_http_version 1.1;proxy_set_header Connection "";}error_page   500 502 503 504  /50x.html;location = /50x.html {root   html;}}

按照官方文档说明，需要增加三个地方