Nginx 反向代理实现 Tomcat 高可用性负载均衡详解

Tomcat 简介

Tomcat是Apache软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun和其他一些公司及个人共同开发而成。

Tomcat服务器是一个免费的开放源代码的Web应用服务器，属于轻量级应用服务器，在中小型系统和并发访问用户不是很多的场合下被普遍使用，是开发和调试JSP程序的首选。

Tomcat和Nginx、Apache(httpd)、lighttpd等Web服务器一样，具有处理HTML页面的功能，另外它还是一个Servlet和JSP容器，独立的Servlet容器是Tomcat的默认模式。不过，Tomcat处理静态HTML的能力不如Nginx/Apache服务器。

目前Tomcat最新版本为9.0。Java容器还有resin、weblogic等。

Tomcat目录结构

Tomcat 一级目录：

[root@rs1 ~]# cd /usr/local/tomcat/
[root@rs1 tomcat]# tree -L 1
.
├── bin 		#存放tomcat管理脚本
├── conf 		#tomcat 配置文件存放目录
├── lib 		#web应用调用的jar包存放路径
├── LICENSE
├── logs 		#tomcat日志存放目录，catalina.out为主要输出日志
├── NOTICE
├── RELEASE-NOTES
├── RUNNING.txt
├── temp 		#存放临时文件
├── webapps 	#web程序存放目录
└── work 		#存放编译产生的.java 与 .class文件

Tomcat 二级目录：

[root@localhost ~]# cd /usr/local/tomcat/webapps
[root@localhost webapps]# tree -L 1
.
├── docs 			#tomcat 帮助文档
├── examples 		#web应用实例
├── host-manager 	#主机管理
├── manager 		#管理
└── ROOT 			#默认站点根目录


[root@localhost ~]# cd /usr/local/tomcat/conf
[root@localhost conf]# tree -L 1
.
├── Catalina
├── catalina.policy
├── catalina.properties
├── context.xml
├── logging.properties
├── logs
├── server.xml 			#tomcat 主配置文件
├── server.xml.bak
├── server.xml.bak2
├── tomcat-users.xml 	#tomcat 管理用户配置文件
├── tomcat-users.xsd
└── web.xml

tomcat 安装

安装java环境：

[root@rs1 ~]# yum install java-1.8.0-openjdk.x86_64 -y

1、下载tomcat源码软件包
在这里插入图片描述

2、解压源码包并指定解压的路径

[root@rs1 ~]# tar zxf apache-tomcat-9.0.93.tar.gz -C /usr/local/

在这里插入图片描述

3、生成并编辑tomcat配置文件

[root@rs1 conf]# vim /usr/local/apache-tomcat-9.0.93/conf/tomcat.conf
JAVA_HOME=/etc/alternatives/jre_openjdk

在这里插入图片描述
编辑配置文件内容，指定jdk路径

4、启用 java-tomcat 服务和8080端口

[root@rs1 ~]# /usr/local/apache-tomcat-9.0.93/bin/startup.sh

在这里插入图片描述

5、生成tomcat用户

[root@rs1 ~]# useradd -s /sbin/nolongin -M tomcat

6、将tomcat用户和用户组映射至tomcat目录

[root@rs1 ~]# chown -R tomcat.tomcat /usr/local/apache-tomcat-9.0.93

在这里插入图片描述

7、生成并编辑自启动文件

[root@rs1 ~]# vim /lib/systemd/system/tomcat.service

[Unit]
Description=Tomcat
#After=syslog.target network.target remote-fs.target nss-lookup.target
After=syslog.target network.target
[Service]
Type=forking
EnvironmentFile=/usr/local/tomcat/conf/tomcat.conf
ExecStart=/usr/local/tomcat/bin/startup.sh
ExecStop=/usr/local/tomcat/bin/shutdown.sh
PrivateTmp=true
User=tomcat
Group=tomcat
[Install]
WantedBy=multi-user.target

在这里插入图片描述

8、开机自启动tomcat服务

[root@rs1 ~]# systemctl enable --now tomcat

在这里插入图片描述

tomcat 负载均衡

动态服务器的问题，往往就是并发能力太弱，往往需要多台动态服务器一起提供服务。如何把并发的压力分摊，这就需要调度，采用一定的调度策略，将请求分发给不同的服务器，这就是Load Balance负载均衡。

当单机Tomcat，演化出多机多级部署的时候，一个问题便凸显出来，这就是Session。而这个问题的由来，都是由于HTTP协议在设计之初没有想到未来的发展。

常见的部署方式

1、standalone模式，Tomcat单独运行，直接接受用户的请求，不推荐。

2、反向代理，单机运行，提供了一个Nginx作为反向代理，可以做到静态由nginx提供响应，动态jsp代理给Tomcat

LNMT：Linux + Nginx + MySQL + Tomcat

LAMT：Linux + Apache（Httpd）+ MySQL + Tomcat

3、前置一台Nginx，给多台Tomcat实例做反向代理和负载均衡调度，Tomcat上更适合部署纯动态页面

LNMT：Linux + Nginx + MySQL + Tomcat

4、多级代理

LNNMT：Linux + Nginx + Nginx + MySQL + Tomcat

在这里插入图片描述

Nginx 反向代理实现 Tomcat

在这里插入图片描述

利用nginx反向代理功能，实现图中的代理功能，将用户请求全部转发至指定的同一个tomcat主机

利用nginx指令proxy_pass 可以向后端服务器转发请求报文,并且在转发时会保留客户端的请求报文中的host首部

location ~ \.jsp$ {
		proxy_pass http://172.25.254.10:8080;
}

#访问网页时必须以 “jsp” 结尾，例如：www.tym.com/test.jsp

Tomcat 负载均衡部署

tomcat 部署：

将网页文件拷贝至默认发布页目录下

[root@rs1 ~]# cd /usr/local/tomcat/webapps/ROOT/

在这里插入图片描述

Nginx 部署：

在子配置文件内编辑，当一台主机宕机时，自动切换至另一台主机上

在这里插入图片描述

效果演示：
在这里插入图片描述

tomcat 高可用

HTTP 的无状态，有连接，短连接

无状态：

指的是服务器端无法知道2次请求之间的联系，即使是前后2次请求来自同一个浏览器，也没有任何数据能够判断出是同一个浏览器的请求。后来可以通过cookie、session机制来判断。

（1）浏览器端第一次HTTP请求服务器端时，在服务器端使用session这种技术，就可以在服务器端产生一个随机值即SessionID发给浏览器端，浏览器端收到后会保持这个SessionID在Cookie当中，这个Cookie值一般不能持久存储，浏览器关闭就消失。浏览器在每一次提交HTTP请求的时候会把这个SessionID传给服务器端，服务器端就可以通过比对知道是谁了

（2）Session通常会保存在服务器端内存中，如果没有持久化，则易丢失

（3）Session会定时过期。过期后浏览器如果再访问，服务端发现没有此ID，将给浏览器端重新发新的SessionID

（4）更换浏览器也将重新获得新的SessionID

有连接：

是因为它基于TCP协议，是面向连接的，需要3次握手、4次断开。

短连接：

Http 1.1之前，都是一个请求一个连接，而Tcp的连接创建销毁成本高，对服务器有很大的影响。所以，自Http 1.1开始，支持keep-alive，默认也开启，一个连接打开后，会保持一段时间（可设置），浏览器再访问该服务器就使用这个Tcp连接，减轻了服务器压力，提高了效率。

服务器端如果故障，即使Session被持久化了，但是服务没有恢复前都不能使用这些SessionID。

如果使用HAProxy或者Nginx等做负载均衡器，调度到了不同的Tomcat上，那么也会出现找不到SessionID的情况

Memcached 简介

Memcached 只支持能序列化的数据类型，不支持持久化，基于Key-Value的内存缓存系统；

memcached虽然没有像redis所具备的数据持久化功能，比如RDB和AOF都没有，但是可以通过做集群同步的方式，让各memcached服务器的数据进行同步，从而实现数据的一致性，即保证各memcached的数据是一样的，即使有任何一台 memcached 发生故障，只要集群中有一台 memcached 可用就不会出现数据丢失，当其他memcached 重新加入到集群的时候,可以自动从有数据的memcached 当中自动获取数据并提供服务。

Memcached 借助了操作系统的 libevent 工具做高效的读写。libevent是个程序库，它将Linux的epoll、BSD类操作系统的kqueue等事件处理功能封装成统一的接口。即使对服务器的连接数增加，也能发挥高性能。

memcached使用这个libevent库，因此能在Linux、BSD、Solaris等操作系统上发挥其高性能；

Memcached 支持最大的内存存储对象为1M，超过1M的数据可以使用客户端压缩或拆分报包放到多个key中，比较大的数据在进行读取的时候需要消耗的时间比较长，memcached 最适合保存用户的session实现session共享；

Memcached存储数据时, Memcached会去申请1MB的内存, 把该块内存称为一个slab, 也称为一个page；

Memcached 支持多种开发语言，包括：JAVA,C,Python,PHP,C#,Ruby,Perl等

配置参数

set
add
replace
get
delete

#前三个命令是用于操作存储在 memcached 中的键值对的标准修改命令,都使用如下所示的语法：
command <key> <flags> <expiration time> <bytes <value>

#参数说明如下：
command set/add/replace
key 				#key 用于查找缓存值

flags 				#可以包括键值对的整型参数，客户机使用它存储关于键值对的额外信息

expiration time 	#在缓存中保存键值对的时间长度（以秒为单位，0 表示永远）

bytes 				#在缓存中存储的字节数

value 				#存储的值（始终位于第二行）

add key flags exptime bytes	#增加key，过期时间为秒，bytes为存储数据的字节数

Memcached 配置

1、下载memcached软件

[root@rs2 ~]# yum install memcached -y

2、编辑 memcached 配置文件

[root@rs2 ~]# vim /etc/sysconfig/memcached

在这里插入图片描述

3、开启服务开机自启动

[root@rs2 ~]# systemctl enabl --now memcached

[root@rs2 ~]# netstat -natlupe | grep memcached
#查看其服务端口号是否开启

在这里插入图片描述

session 共享服务器

在这里插入图片描述

msm（memcached session manager）提供将Tomcat的session保持到memcached，实现高可用

支持Tomcat的 6.x、7.x、8.x、9.x

Tomcat的Session管理类，Tomcat版本不同
	memcached-session-manager-2.3.2.jar
	memcached-session-manager-tc9-2.3.2.jar

Session数据的序列化、反序列化类
	官方推荐kyro
	在webapp中WEB-INF/lib/下

驱动类
	memcached(spymemcached.jar)
	Redis(jedis.jar)

tomcat 配置

1、tomcat1 和 memcached1 可部署在一台主机上，tomcat2 和 memcached2也可部署在同一台主机上

2、当新用户发请求到Tomcat1时, Tomcat1生成session返回给用户的同时,也会同时发给memcached2备份；即Tomcat1 session为主session，memcached2 session为备用session，使用memcached相当于备份了一份Session

3、如果Tomcat1发现memcached2 失败,无法备份Session到memcached2,则将Sessoin备份存放在memcached1中

1、需要下载的软件包

kryo-3.0.3.jar
asm-5.2.jar
objenesis-2.6.jar
reflectasm-1.11.9.jar
minlog-1.3.1.jar
kryo-serializers-0.45.jar
msm-kryo-serializer-2.3.2.jar
memcached-session-manager-tc9-2.3.2.jar
spymemcached-2.12.3.jar
memcached-session-manager-2.3.2.jar

2、将需要下载的软件包移动至 tomcat 下的 lib 目录

[root@rs1 ~]# cd /usr/local/tomcat/lib/

在这里插入图片描述

3、修改配置文件内容

[root@rs1 ~]# vim /usr/local/tomcat/conf/context.xml

<Manager	className="de.javakaffee.web.msm.MemcachedBackupSessionManager"
		memcachedNodes="n1:172.25.254.10:11211,n2:172.25.254.20:11211"
		failoverNodes="n1"
		requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$"
		transcoderFactoryClass="de.javakaffee.web.msm.serializer.kryo.KryoTranscoderFactory"
/>

在这里插入图片描述
编辑内容：