1、Tomcat 功能组件结构
Tomcat 的核心功能有两个,分别是负责接收和反馈外部请求的连接器 Connector,和负责处理请求的容器 Container。 其中连接器和容器相辅相成,一起构成了基本的 web 服务 Service。每个 Tomcat 服务器可以管理多个 Service。
- Connector:负责对外接收和响应请求。它是Tomcat与外界的交通枢纽,监听端口接收外界请求,并将请求处理后传递给容器做业务处理,最后将容器处理后的结果响应给外界。
- Container:负责对内处理业务逻辑。其内部由 Engine、Host、Context和Wrapper 四个容器组成,用于管理和调用 Servlet 相关逻辑。
- Service:对外提供的 Web 服务。主要包含 Connector 和 Container 两个核心组件,以及其他功能组件。Tomcat 可以管理多个 Service,且各 Service 之间相互独立。
1.1、Container 结构分析:
每个 Service 会包含一个 Container 容器。在 Container 内部包含了 4 个子容器,分别如下:
- Engine:引擎,用来管理多个虚拟主机,一个 Service 最多只能有一个 Engine;
- Host:代表一个虚拟主机,也可以叫站点,通过配置 Host 就可以添加站点;
- Context:代表一个 Web 应用,包含多个 Servlet 封装器;
- Wrapper:封装器,容器的最底层。每一 Wrapper 封装着一个 Servlet,负责对象实例的创建、执行和销毁功能。
Engine、Host、Context 和 Wrapper,这四个容器之间属于父子关系。
容器( Container)由一个引擎(Engine)可以管理多个虚拟主机(Host)。每个虚拟主机(Host)可以管理多个 Web 应用(Context),每个 Web 应用会有多个 Servlet 封装器(Wrapper)。
2、tomcat线程池
tomcat中connector连接器部分使用到了线程池。
- LimitLatch:用来限流,可以恐怕该男子最大连接个数,类似J.U.C中的Semaphore.
- Acceptor只负责【接收新的socket连接】,默认线程数量为1,已足够使用。
- Poller :只负责监听socket channel是否有【可读的I/O事件】,默认线程数量为1,采用的是多路复用,已足够使用。
- 一旦可读,封装一个任务对象(sockerProcessor),提交给Executor线程池处理。
- Executor线程池中的工作线程最终负责【处理请求】
2.1、tomcat线程池扩展了ThreadPoolExecutor
tomcat线程池扩展了ThreadPoolExecutor,行为稍有不同,如果总线程数达到了maxPoolSize,
- 不会立即抛RejectedExecutionException异常;
- 而是再次尝试将任务放入队列,如果还失败,才抛出RejectedExecutionException异常。
源码如下:(tomcat9.0.21)
package org.apache.tomcat.util.threads;
public class ThreadPoolExecutor extends java.util.concurrent.ThreadPoolExecutor {
// 此处省略部分代码...
public void execute(Runnable command, long timeout, TimeUnit unit) {
this.submittedCount.incrementAndGet();
try {
super.execute(command);
} catch (RejectedExecutionException var9) {
if (!(super.getQueue() instanceof TaskQueue)) {
this.submittedCount.decrementAndGet();
throw var9;
}
TaskQueue queue = (TaskQueue)super.getQueue();
try {
if (!queue.force(command, timeout, unit)) {
this.submittedCount.decrementAndGet();
throw new RejectedExecutionException(sm.getString("threadPoolExecutor.queueFull"));
}
} catch (InterruptedException var8) {
this.submittedCount.decrementAndGet();
throw new RejectedExecutionException(var8);
}
}
}
// 此处省略部分代码...
}
tomcat跟线程池相关的配置如下:
2.2、tomcat线程池相关的配置
tomcat 之service.xml 中线程池的配置部分如下:
<!--The connectors can use a shared executor, you can define one or more named thread pools-->
<!--
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"
maxThreads="150" minSpareThreads="4"/>
-->
<!-- A "Connector" represents an endpoint by which requests are received
and responses are returned. Documentation at :
Java HTTP Connector: /docs/config/http.html
Java AJP Connector: /docs/config/ajp.html
APR (HTTP/AJP) Connector: /docs/apr.html
Define a non-SSL/TLS HTTP/1.1 Connector on port 8080
-->
<Connector port="8180" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
<!-- A "Connector" using the shared thread pool-->
<!--
<Connector executor="tomcatThreadPool"
port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
-->
2.12.1、connector配置
对应service.xml中的<connector>标签配置。
<Connector port="8180" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
2.2.2、Executor配置
对应service.xml中的<executor>标签配置,用于在<connector>标签中引用。service.xml原配置中的注释代码放开后如下:
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"
maxThreads="150" minSpareThreads="4"/>
<Connector executor="tomcatThreadPool"
port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
默认队列长度是Integer.MAX_VALUE,相当于是无界队列,是否表示非核心线程(即救急线程)永远不会被创建?
tomcat线程池工作流程图如下:
1、有新任务时,核心线程数是否都用完了(即核心线程是否都繁忙),如果还有空闲核心线程,则将新任务添加到队列。
2、如果没有空闲核心线程,判断是否有救急线程,有,则创建救急线程或使用空闲的救急线程,执行任务。
3、如果救急线程都繁忙,则将新任务加入对列,加入规则如 2.1章节说明。