win下tomcat+nginx负载均衡（tomcat与nginx部署web项目）

一、前言

对Tomcat服务器做负载均衡的原因：

Tomcat服务器作为一个Web服务器，其并发数在300-500之间，如果有超过500的并发数便会出现Tomcat不能响应新的请求的情况，严重影响网站的运行。另外，在访问量大的情况下，Tomcat的线程数会不断增加。由于Tomcat自身对内存的占用有控制，当对内存的占用达到最大值时便会出现内存溢出，对网站的访问严重超时等现象，这时便需要重新启动Tomcat以释放占用的内存，这样做便会阻断网站运行。

所以对Tomcat做负载均衡便很有必要。目前可以和Tomcat做负载均衡的主流服务器是Apache，但是Nginx由于功能多、配置简单等优点逐渐成为很多负载均衡服务器的首选。Nginx的并发数可达到50000，所以理论上可以和Tomcat以1:100的比例来配置，这样便可以很好的解决网站并发瓶颈问题。而且Nginx、apache是基于http反向代理方式，位于ISO模型的第七层应用层。直白些就是TCP、UDP 和http协议的区别，Nginx不能为基于TCP协议的应用提供负载均衡。

二、nginx介绍

Nginx (“engine x”) 是一款高性能的，轻量级的HTTP Web 服务器 和 反向代理服务器及电子邮件 IMAP/POP3/SMTP 代理服务器。自 Nginx 发布四年来，Nginx 已经因它的稳定性、丰富的功能集、示例配置文件和低系统资源的消耗而闻名了。Nginx 超越Apache的高性能和稳定性，使得国内使用 Nginx 作为 Web 服务器的网站也越来越多。

目前国内各大门户网站已经部署了Nginx，如新浪、网易、腾讯等；新近发现 Nginx 技术在国内日趋火热，越来越多的网站开始应用部署Nginx。

1、反向代理

反向代理（Reverse Proxy）是指以代理服务器来接受internet上的连接请求，然后将请求转发给内部网络上的服务器，并将从服务器上得到的结果返回给internet上请求连接的客户端，此时代理服务器对外就表现为一个服务器。

反向代理方式实际上就是一台负责转发的代理 服务器，貌似充当了真正服务器的功能，但实际上并不是，代理服务器只是充当了转发的作用，并且

真正的服务器那里取得返回的数据。这样说，其实nginx 完成的就是这样的工作。我们让nginx监听一个端口，譬如80端口，但实际上我们转发给

8080端口的tomcat，由它来处理真正的请求，当请求完 成后，tomcat返回，但数据此时没直接返回，而是直接给nginx，由nginx进行返回，这里，

我们会以为是nginx进行了处理，但实际上进行处理的是tomcat。

可以把静态文件交由nginx来进行处理。事实上很多用到nginx的地方都是作为静态伺服器，这样可以方便缓存那些静态文件，比如CSS，JS，html，htm等文件。

2、目录结构

Nginx-

|_ conf 配置目录

|_ contrib

|_ docs 文档目录

|_ logs 日志目录

|_ temp 临时文件目录

|_ html 静态页面目录

|_ nginx.exe 主程序

3、Nginx配置文件nginx.conf详解

#定义Nginx运行的用户和用户组
user www www;
#nginx进程数，建议设置为等于CPU总核心数。
worker_processes 8;
#全局错误日志定义类型，[ debug | info | notice | warn | error | crit ]
error_log /var/log/nginx/error.log info;
#进程文件
pid /var/run/nginx.pid;
#一个nginx进程打开的最多文件描述符数目，理论值应该是最多打开文件数（系统的值ulimit -n）与nginx进程数相除，但是nginx分配请求并不均匀，所以建议与ulimit -n的值保持一致。
worker_rlimit_nofile 65535;
#工作模式与连接数上限
events
{
 #参考事件模型，use [ kqueue | rtsig | epoll | /dev/poll | select | poll ]; epoll模型是Linux 2.6以上版本内核中的高性能网络I/O模型，如果跑在FreeBSD上面，就用kqueue模型。
 use epoll;
 #单个进程最大连接数（最大连接数=连接数*进程数）
 worker_connections 65535;
}
#设定http服务器
http
{
 include mime.types; #文件扩展名与文件类型映射表
 default_type application/octet-stream; #默认文件类型
 #charset utf-8; #默认编码
 server_names_hash_bucket_size 128; #服务器名字的hash表大小
 client_header_buffer_size 32k; #上传文件大小限制
 large_client_header_buffers 4 64k; #设定请求缓
 client_max_body_size 8m; #设定请求缓
 sendfile on; #开启高效文件传输模式，sendfile指令指定nginx是否调用sendfile函数来输出文件，对于普通应用设为 on，如果用来进行下载等应用磁盘IO重负载应用，可设置为off，以平衡磁盘与网络I/O处理速度，降低系统的负载。注意：如果图片显示不正常把这个改成off。
 autoindex on; #开启目录列表访问，合适下载服务器，默认关闭。
 tcp_nopush on; #防止网络阻塞
 tcp_nodelay on; #防止网络阻塞
 keepalive_timeout 120; #长连接超时时间，单位是秒
 #FastCGI相关参数是为了改善网站的性能：减少资源占用，提高访问速度。下面参数看字面意思都能理解。
 fastcgi_connect_timeout 300;
 fastcgi_send_timeout 300;
 fastcgi_read_timeout 300;
 fastcgi_buffer_size 64k;
 fastcgi_buffers 4 64k;
 fastcgi_busy_buffers_size 128k;
 fastcgi_temp_file_write_size 128k;
 #gzip模块设置
 gzip on; #开启gzip压缩输出
 gzip_min_length 1k; #最小压缩文件大小
 gzip_buffers 4 16k; #压缩缓冲区
 gzip_http_version 1.0; #压缩版本（默认1.1，前端如果是squid2.5请使用1.0）
 gzip_comp_level 2; #压缩等级
 gzip_types text/plain application/x-javascript text/css application/xml;
 #压缩类型，默认就已经包含text/html，所以下面就不用再写了，写上去也不会有问题，但是会有一个warn。
 gzip_vary on;
 #limit_zone crawler $binary_remote_addr 10m; #开启限制IP连接数的时候需要使用
 upstream blog.ha97.com {
 #upstream的负载均衡，weight是权重，可以根据机器配置定义权重。weigth参数表示权值，权值越高被分配到的几率越大。
 server 192.168.80.121:80 weight=3;
 server 192.168.80.122:80 weight=2;
 server 192.168.80.123:80 weight=3;
 }
 #虚拟主机的配置
 server {
 #监听端口
 listen 80;
 #域名可以有多个，用空格隔开
 server_name www.ha97.com ha97.com;
 index index.html index.htm index.php;
 root /data/www/ha97;
 location ~ .*\.(php|php5)?$
 {
 fastcgi_pass 127.0.0.1:9000;
 fastcgi_index index.php;
 include fastcgi.conf;
 }
 #图片缓存时间设置
 location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$
 {
 expires 10d;
 }
 #JS和CSS缓存时间设置
 location ~ .*\.(js|css)?$
 {
 expires 1h;
 }
 #日志格式设定
 log_format access '$remote_addr - $remote_user [$time_local] "$request" '
 '$status $body_bytes_sent "$http_referer" '
 '"$http_user_agent" $http_x_forwarded_for';
 #定义本虚拟主机的访问日志
 access_log /var/log/nginx/ha97access.log access;
 #对 "/" 启用反向代理
 location / {
 proxy_pass http://127.0.0.1:88;
 proxy_redirect off;
 proxy_set_header X-Real-IP $remote_addr;
 #后端的Web服务器可以通过X-Forwarded-For获取用户真实IP
 proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
 #以下是一些反向代理的配置，可选。
 proxy_set_header Host $host;
 client_max_body_size 10m; #允许客户端请求的最大单文件字节数
 client_body_buffer_size 128k; #缓冲区代理缓冲用户端请求的最大字节数，
 proxy_connect_timeout 90; #nginx跟后端服务器连接超时时间(代理连接超时)
 proxy_send_timeout 90; #后端服务器数据回传时间(代理发送超时)
 proxy_read_timeout 90; #连接成功后，后端服务器响应时间(代理接收超时)
 proxy_buffer_size 4k; #设置代理服务器（nginx）保存用户头信息的缓冲区大小
 proxy_buffers 4 32k; #proxy_buffers缓冲区，网页平均在32k以下的设置
 proxy_busy_buffers_size 64k; #高负荷下缓冲大小（proxy_buffers*2）
 proxy_temp_file_write_size 64k;
 #设定缓存文件夹大小，大于这个值，将从upstream服务器传
 }
 #设定查看Nginx状态的地址
 location /NginxStatus {
 stub_status on;
 access_log on;
 auth_basic "NginxStatus";
 auth_basic_user_file conf/htpasswd;
 #htpasswd文件的内容可以用apache提供的htpasswd工具来产生。
 }
 #本地动静分离反向代理配置
 #所有jsp的页面均交由tomcat或resin处理
 location ~ .(jsp|jspx|do)?$ {
 proxy_set_header Host $host;
 proxy_set_header X-Real-IP $remote_addr;
 proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
 proxy_pass http://127.0.0.1:8080;
 }
 #所有静态文件由nginx直接读取不经过tomcat或resin
 location ~ .*.(htm|html|gif|jpg|jpeg|png|bmp|swf|ioc|rar|zip|txt|flv|mid|doc|ppt|pdf|xls|mp3|wma)$
 { expires 15d; }
 location ~ .*.(js|css)?$
 { expires 1h; }
 }
}

三、nginx+tomcat实现tomcat集群与负载均衡

1、基础环境：

App应用服务器apache-tomcat-7.0.75

web服务器：nginx的nginx-1.8.1

Java环境：jdk1.7

系统环境：win7系统

2、准备软件

Jdk1.7 下载地址： http://java.sun.com

nginx 下载地址：

http://nginx.org/en/download.html的nginx/Windows-1.8.1

tomcat下载地址：http://mirror.bit.edu.cn/apache/tomcat/tomcat-8/v8.0.12/bin/apache-tomcat-8.0.12-windows-x64.zip

winsw下载地址：http://www.cr173.com/soft/101797.html

3、配置tomcat

3.1安装tomcat

安装包：D:\tomcat\apache-tomcat-7.0.75.tar.gz

解压两份Tomcat, 分别安装在

D:\Apache Group\apache-tomcat-7.0.75

D:\Apache Group\apache-tomcat-7.0.75-1

3.2 修改tomcat配置文件server.xml

如果是水平集群，即在不同电脑上安装tomcat,tomcat的安装数量为一个，可以不必修改tomcat配置文件.由于这里是在同一台电脑上安装两个tomcat,实现的是垂直集群方式，所以必须修改其中一个的设置，以避免端口冲突。

更改其中一个的设置打开 tomcat2/conf/server.xml 文件，修改里面所有的端口设置，将 8 改为 9 ，如下：

D:\Apache Group\apache-tomcat-7.0.75-1\conf\server.xml

<Server port="9005" shutdown="SHUTDOWN"> 
#将关闭Tomcat的监听端口由默认的8005改成9005
 <Listener className="org.apache.catalina.startup.VersionLoggerListener" />
 <!-- Security listener. Documentation at /docs/config/listeners.html
 <Listener className="org.apache.catalina.security.SecurityListener" />
 -->
 <!--APR library loader. Documentation at /docs/apr.html -->
 <Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" />
 <!--Initialize Jasper prior to webapps are loaded. Documentation at /docs/jasper-howto.html -->
 <Listener className="org.apache.catalina.core.JasperListener" />
 <!-- Prevent memory leaks due to use of particular java/javax APIs-->
 <Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
 <Listener className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
 <Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />

 <Connector port="9090" protocol="HTTP/1.1" 
#将http服务端口号由默认的8080改为9090
 connectionTimeout="20000"
 redirectPort="8443" />

 <Connector port="9009" protocol="AJP/1.3" redirectPort="8443" />
#将AJP端口号由默认的8009改为9009

3.3 测试tomcat是否正常访问

访问地址：http://localhost:8080

http://localhost:9090

4、安装配置nginx

4.1 安装nginx

安装包路径：D:\nginx\window\nginx-1.8.1.zip

解压路径：D:\nginx\window\nginx-1.8.1

运行nginx.exe(即nginx -c conf\nginx.conf)，默认使用80端口，日志见文件夹D:\nginx\window\nginx-1.8.1\logs

测试是否安装成功：

输入地址http://localhost

4.2添加nginx为系统服务

4.2.1下载winsw

下载地址：http://www.cr173.com/soft/101797.html

4.2.2 winsw设置

将winsw可执行程序复制到nginx安装目录下，并重命名为nginx-service

新建名为nginx-service.xml的文件（注：文件名必须与可执行文件名相同），并添加：

<service> 
 <id>nginx</id> 
 <name>nginx</name> 
 <description>nginx</description> 
 <executable>D:\nginx\window\nginx-1.8.1\nginx.exe</executable> 
 <logpath>D:\nginx\window\nginx-1.8.1\</logpath> 
 <logmode>roll</logmode> 
 <depend></depend> 
 <startargument>-p D:\nginx\window\nginx-1.8.1</startargument> 
 <stopargument>-p D:\nginx\window\nginx-1.8.1 -s stop</stopargument> 
</service> 

说明：D:\nginx\window\nginx-1.8.1为安装路径

name为 服务名，executable为可执行程序路径，logpath为程序运行日志路径。

4.2.3 安装系统服务

在nginx安装目录下运行cmd（快捷方式：shift + 鼠标右键），运行命令：nginx-service.exe install

注：nginx-service.exe uninstall命令可删除对应的系统服务

nginx-service.exe stop命令可停止对应的系统服务

nginx-service.exe start命令可启动对应的系统服务

4.2.4 查看服务是否安装成功

计算机管理 -> 服务：如服务为未运行状态，可在此启动服务，或设置为自动启动

注：若服务安装成功，可在cmd（管理员身份）中对服务进行如下操作

启动nginx ：net start nginx

停止nginx：net stop nginx

4.2.5 验证nginx是否正常运行

在浏览器中打开网址http://localhost

4.3 配置nginx.conf 文件

nginx 的 upstream默认是以轮询的方式实现负载均衡，还可以增加权重weight=1来改变轮询的几率

配置文件目录：D:\nginx\window\nginx-1.8.1\conf\nginx.conf

worker_processes 1;#工作进程的个数，一般与计算机的cpu核数一致 
 
events { 
 worker_connections 1024;#单个进程最大连接数（最大连接数=连接数*进程数） 
} 
 
http { 
 include mime.types; #文件扩展名与文件类型映射表 
 default_type application/octet-stream;#默认文件类型 
 
 sendfile on;
#开启高效文件传输模式，sendfile指令指定nginx是否调用sendfile函数来输出文件，对于普通应用设为 on，
#如果用来进行下载等应用磁盘IO重负载应用，可设置为off，以平衡磁盘与网络I/O处理速度，降低系统的负载。
#注意：如果图片显示不正常把这个改成off。 
 
 keepalive_timeout 65; #长连接超时时间，单位是秒 
 
 gzip on;#启用Gizp压缩 
 
 #服务器的集群 
 upstream hwb.com { #服务器集群名字 
 server 127.0.0.1:8080 weight=1;#服务器配置 weight是权重的意思，权重越大，分配的概率越大。 
 server 127.0.0.1:9090 weight=2; 
 } 
 
 #当前的Nginx的配置 
 server { 
 listen 80;
#监听80端口，可以改成其他端口，注意，如果我们配置了多个server，这个listen要配置不一样，不然就不能确定转到哪里去了。 
 
 server_name localhost;############## 当前服务的域名
 # server_name：表示监听到之后需要转到哪里去，这里直接转到本地，是直接到nginx文件夹内
 
 location / { 
 proxy_pass http://hwb.com; 
 proxy_redirect default; 
 } 
 
 
 error_page 500 502 503 504 /50x.html; 
 location = /50x.html { 
 root html; 
#里面配置了root，表示当匹配这个请求的路径时，将会在这个文件夹内寻找相应的文件，这里对之后的静态文件伺服很有用。
 } 
 } 
} 

5、测试集群访问

5.1 启动tomcat 8080、9090端口
 

 5.2 启动nginx
或者cmd命令：net start nginx 

5.3 访问页面
地址：http://localhost/testcluster/test.jsp
Nginx内部配置了监听80端口，默认进行服务器的分发。 

 
说明：刷新测试了5次，共访问了Tomcat1共2次，Tomcat2共3次。可以看到权重越大，访问到的概率越大。
附：关于tomcat Session的问题通常是采用memcached，或者采用nginx_upstream_jvm_route ，它是一个 Nginx 的扩展模块，用来实现基于 Cookie 的 Session Sticky 的功能。如果tomcat过多不建议session同步，server间相互同步session很耗资源，高并发环境容易引起Session风暴。请根据自己应用情况合理采纳session解决方案。 

PS：码字真辛苦，能看到这的抽空点个赞哩~