前言

当前的Web服务器有很多，比如Tomcat、Jetty、Nginx等等。我们在工作中大部分都是充当一个软件的使用者的角色。但是，如果我们想要用好这些软件，对于原理和架构层面的知识我们还是要了解一下的。就是人们所谓的要知其然还要知其所以然。

本博文主要从架构原理的角度来带领大家了解一下老牌Web服务器Tomcat的架构原理。

Tomcat 系统总体架构

之前说的不是很准确，准确的说呢，Tomcat是一个HTTP服务器。所谓HTTP服务器，也就是说该服务器可以处理HTTP请求。Tomcat的总体架构如下图所示：

如上图所示，HTTP服务器在接收到请求之后，将请求交给我们的Servlet容器去处理。而我们的Servlet容器是提供了一个接口，并加载了用户自定义的业务类。这样，容器和业务之间就解耦了。大家职责很分明，各干各的事情。这也体现了Tomcat容器的设计是很优雅的。

了解完架构，我们以下图为例来看一下Tomcat服务器对于一个HTTP请求的处理过程：

由上图我们可以看出处理流程分为下面几步：

HTTP服务器会把请求信息使用ServletRequest对象封装起来
进⼀步去调用Servlet容器中某个具体的Servlet
在第2步中，Servlet容器拿到请求后，根据URL和Servlet的映射关系，找到相应的Servlet
如果Servlet还没有被加载，就用反射机制创建这个Servlet，并调用Servlet的init方法来完成初始化
接着调用这个具体Servlet的service方法来处理请求，请求处理结果使用ServletResponse对象封装
把ServletResponse对象返回给HTTP服务器，HTTP服务器会把响应发送给客户端

通过上⾯的讲解，我们发现Tomcat有两个非常重要的功能需要完成：

和客户端进行交互，进行socket通信，并处理字节流和Request/Response对象的转换
Servlet容器处理具体业务

对此呢，Tomcat设计了两大核心组件来完成以上两个功能，就是连接器（Connector）和容器（Container）。在这里我们补充一点知识：HTTP是应用层的协议，它负责制定接收数据的格式规范。TCP/IP是传输协议，负责两个端点之间数据的传输规范。

Tomcat 连接器组件 Coyote

Coyote 是Tomcat 中连接器的组件名称 , 是对外的接⼝。客户端通过Coyote与服务器建立连接、发送请求并接受响应。其特征有以下几点：

Coyote 封装了底层的网络通信（Socket 请求及响应处理）
Coyote 使Catalina 容器（容器组件）与具体的请求协议及IO操作方式完全解耦
Coyote 将Socket输入转换封装为 Request 对象，进⼀步封装后交由Catalina 容器进行处理，处理请求完成后，Catalina 通过Coyote 提供的Response对象将结果写入输出流
Coyote 负责的是具体协议（应用层）和IO（传输层）相关内容

Tomcat支持多种应用层协议和I/O模型，如下：

在 8.0 之前，Tomcat 默认采用的I/O方式为 BIO，之后改为 NIO。无论 NIO、NIO2 还是 APR，在性能方面均优于以往的BIO。如果采用APR，甚至可以达到 Apache HTTP Server 的性能。

Coyote 的内部组件及流程

组件	作用描述
EndPoint	EndPoint 是 Coyote 通信端点，即通信监听的接口，是具体Socket接收和发送处理器，是对传输层的抽象，因此EndPoint用来实现TCP/IP协议的
Processor	Processor 是Coyote 协议处理接口，如果说EndPoint是用来实现TCP/IP协议的，那么Processor用来实现HTTP协议，Processor接收来自EndPoint的Socket，读取字节流解析成Tomcat Request和Response对象，并通过Adapter将其提交到容器处理，Processor是对应用层协议的抽象
ProtocolHandler	Coyote 协议接口，通过Endpoint 和 Processor ，实现针对具体协议的处理能力。Tomcat 按照协议和I/O 提供了6个实现类： AjpNioProtocol ，AjpAprProtocol， AjpNio2Protocol ， Http11NioProtocol ，Http11Nio2Protocol ，Http11AprProtocol
Adapter	由于协议不同，客户端发过来的请求信息也不尽相同，Tomcat定义了自己的Request类来封装这些请求信息。ProtocolHandler接口负责解析请求并生成Tomcat Request类。但是这个Request对象不是标准的ServletRequest，不能用Tomcat Request作为参数来调用容器。Tomcat设计者的解决方案是引入CoyoteAdapter，这是适配器模式的经典运用，连接器调用CoyoteAdapter的Sevice方法，传入的是Tomcat Request对象，CoyoteAdapter负责将Tomcat Request转成ServletRequest，再调用容器

Tomcat Servlet 容器 Catalina

Tomcat 模块分层结构图及Catalina位置

Tomcat是⼀个由⼀系列可配置（conf/server.xml）的组件构成的Web容器，而Catalina是Tomcat的servlet容器。从另⼀个角度来说，Tomcat 本质上就是⼀款 Servlet 容器，因为 Catalina 才是 Tomcat 的核⼼，其他模块都是为Catalina 提供⽀撑的。比如：通过 Coyote 模块提供链接通信，Jasper 模块提供 JSP 引擎，Naming 提供JNDI 服务，Juli 提供日志服务。

Servlet 容器 Catalina 的结构

容器的结构参考下图：

其实，可以认为整个Tomcat就是⼀个Catalina实例，Tomcat 启动的时候会初始化这个实例，Catalina实例通过加载server.xml完成其他实例的创建，创建并管理⼀个Server，Server创建并管理多个服务（Service），每个服务（Service）又可以有多个Connector和⼀个Container。

Container 组件的具体结构

Container组件下有几种具体的组件，分别是Engine、Host、Context和Wrapper。这4种组件（容器）是父子关系。Tomcat通过⼀种分层的架构，使得Servlet容器具有很好的灵活性。

Engine：表示整个Catalina的Servlet引擎，用来管理多个虚拟站点，⼀个Service最多只能有⼀个Engine，但是⼀个引擎可包含多个Host
Host：代表⼀个虚拟主机，或者说⼀个站点，可以给Tomcat配置多个虚拟主机地址，而⼀个虚拟主机下可包含多个Context
Context：表示⼀个Web应用程序，⼀个Web应用可包含多个Wrapper
Wrapper：表示⼀个Servlet，Wrapper 作为容器中的最底层，不能包含子容器

上述组件的配置其实就体现在conf/server.xml中。

Tomcat 服务器核心配置详解

Tomcat的核心配置在Tomcat目录下conf/server.xml文件中，该文件的主要结构如下：

<!--
Server 根元素，创建⼀个Server实例，⼦标签有 Listener、GlobalNamingResources、
Service
-->
<Server>
    <!--定义监听器-->
    <Listener/>
    <!--定义服务器的全局JNDI资源 -->
    <GlobalNamingResources/>
    <!--
定义⼀个Service服务，⼀个Server标签可以有多个Service服务实例
-->
    <Service/>
</Server>

Server 标签：

<!--
port：关闭服务器的监听端口
shutdown：关闭服务器的指令字符串
-->
<Server port="8005" shutdown="SHUTDOWN">
    <!-- 以日志形式输出服务器 、操作系统、JVM的版本信息 -->
    <Listener className="org.apache.catalina.startup.VersionLoggerListener" />
    <!-- Security listener. Documentation at /docs/config/listeners.html
    <Listener className="org.apache.catalina.security.SecurityListener" />
    -->
    <!--APR library loader. Documentation at /docs/apr.html -->
    <!-- 加载（服务器启动） 和 销毁 （服务器停止） APR。 如果找不到APR库，则会输出日志，并
不影响 Tomcat启动 -->
    <Listener className="org.apache.catalina.core.AprLifecycleListener"
 SSLEngine="on" />
    <!-- Prevent memory leaks due to use of particular java/javax APIs-->
    <!-- 避免JRE内存泄漏问题 -->
    <Listener
 className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
    <!-- 加载（服务器启动） 和 销毁（服务器停⽌） 全局命名服务 -->
    <Listener
 className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
    <!-- 在Context停止时重建 Executor 池中的线程， 以避免ThreadLocal 相关的内存泄漏 -->
    <Listener
 className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
    <!-- Global JNDI resources
    Documentation at /docs/jndi-resources-howto.html
    GlobalNamingResources 中定义了全局命名服务
    -->
    <GlobalNamingResources>
        <!-- Editable user database that can also be used by
 UserDatabaseRealm to authenticate users
-->
        <Resource name="UserDatabase" auth="Container"
 type="org.apache.catalina.UserDatabase"
 description="User database that can be updated and saved"
 factory="org.apache.catalina.users.MemoryUserDatabaseFactory"
 pathname="conf/tomcat-users.xml" />
    </GlobalNamingResources>
    <!-- A "Service" is a collection of one or more "Connectors" that share
 a single "Container" Note: A "Service" is not itself a "Container",
 so you may not define subcomponents such as "Valves" at this level.
 Documentation at /docs/config/service.html
 -->
    <Service name="Catalina">
     ...
    </Service>

</Server>

Service 标签:

<!--
该标签用于创建 Service 实例，默认使用 org.apache.catalina.core.StandardService。
默认情况下，Tomcat 仅指定了Service 的名称， 值为 "Catalina"。
Service ⼦标签为 ： Listener、Executor、Connector、Engine，
其中：
Listener 用于为Service添加⽣命周期监听器，
Executor 用于配置Service 共享线程池，
Connector 用于配置Service 包含的链接器，
Engine 用于配置Service中链接器对应的Servlet 容器引擎
-->
<Service name="Catalina">
...
</Service>

Executor 标签：

<!--
默认情况下，Service 并未添加共享线程池配置。 如果我们想添加⼀个线程池， 可以在
<Service> 下添加如下配置：
name：线程池名称，用于 Connector中指定
namePrefix：所创建的每个线程的名称前缀，⼀个单独的线程名称为
namePrefix+threadNumber
maxThreads：池中最⼤线程数
minSpareThreads：活跃线程数，也就是核心池线程数，这些线程不会被销毁，会⼀直存在
maxIdleTime：线程空闲时间，超过该时间后，空闲线程会被销毁，默认值为6000（1分钟），单位
毫秒
maxQueueSize：在被执行前最大线程排队数目，默认为Int的最⼤值，也就是广义的无限。除非特
殊情况，这个值不需要更改，否则会有请求不会被处理的情况发生
prestartminSpareThreads：启动线程池时是否启动 minSpareThreads部分线程。默认值为
false，即不启动
threadPriority：线程池中线程优先级，默认值为5，值从1到10
className：线程池实现类，未指定情况下，默认实现类为
org.apache.catalina.core.StandardThreadExecutor。如果想使用自定义线程池⾸先需要实现
org.apache.catalina.Executor接口
-->
<Executor name="commonThreadPool"
namePrefix="thread-exec-"
maxThreads="200"
minSpareThreads="100"
maxIdleTime="60000"
maxQueueSize="Integer.MAX_VALUE"
prestartminSpareThreads="false"
threadPriority="5"
className="org.apache.catalina.core.StandardThreadExecutor"/>

Connector 标签：

connector 标签⽤于创建链接器实例默认情况下，server.xml 配置了两个连接器，⼀个支持HTTP协议，⼀个支持AJP协议⼤多数情况下，我们并不需要新增连接器配置，只是根据需要对已有连接器进行优化。

<!--
port：
端口号，Connector 用于创建服务端Socket 并进行监听， 以等待客户端请求连接。如果该属性设置
为0， Tomcat将会随机选择⼀个可⽤的端⼝号给当前Connector使用
protocol：
当前Connector ⽀持的访问协议。 默认为 HTTP/1.1 ， 并采用自动切换机制选择⼀个基于 JAVA
 NIO 的连接器或者基于本地APR的链接器（根据本地是否含有Tomcat的本地库判定）
connectionTimeOut:
Connector 接收链接后的等待超时时间， 单位为毫秒。 -1 表示不超时。
redirectPort：
当前Connector 不⽀持SSL请求， 接收到了⼀个请求， 并且也符合security-constraint 约束，
需要SSL传输，Catalina自动将请求重定向到指定的端口。
executor：
指定共享线程池的名称， 也可以通过maxThreads、minSpareThreads 等属性配置内部线程池。
URIEncoding:
用于指定编码URI的字符编码， Tomcat8.x版本默认的编码为 UTF-8 , Tomcat7.x版本默认为ISO-
8859-1
-->
<!--org.apache.coyote.http11.Http11NioProtocol ， ⾮阻塞式 Java NIO 链接器-->
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000"
redirectPort="8443" />
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

可以使用共享线程池：

<Connector port="8080"
    protocol="HTTP/1.1"
    executor="commonThreadPool"
    maxThreads="1000"
    minSpareThreads="100"
    acceptCount="1000"
    maxConnections="1000"
    connectionTimeout="20000"
    compression="on"
    compressionMinSize="2048"
    disableUploadTimeout="true"
    redirectPort="8443"
    URIEncoding="UTF-8" />

Engine （Engine 表示 Servlet 引擎）标签：

<!--
name： 用于指定Engine 的名称， 默认为Catalina
defaultHost：默认使用的虚拟主机名称， 当客户端请求指向的主机无效时， 将交由默认的虚拟主机处
理， 默认为localhost
-->
<Engine name="Catalina" defaultHost="localhost">
...
</Engine>

Host 标签（Host 标签用于配置⼀个虚拟主机）：

<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
...
</Host>

Context 标签（Context 标签⽤于配置⼀个Web应用）：

<Host name="www.abc.com" appBase="webapps" unpackWARs="true"
 autoDeploy="true">
<!--
docBase：Web应用目录或者War包的部署路径。可以是绝对路径，也可以是相对于 Host appBase的
相对路径。
path：Web应用的Context 路径。如果我们Host名为localhost， 则该web应用访问的根路径为：
http://localhost:8080/web_demo。
-->
    <Context docBase="/Users/yingdian/web_demo" path="/web3"></Context>
    <Valve className="org.apache.catalina.valves.AccessLogValve"
 directory="logs"
 prefix="localhost_access_log" suffix=".txt"
 pattern="%h %l %u %t &quot;%r&quot; %s %b" />
</Host>

以上，就是对于Tomcat架构的介绍内容。

本作品采用知识共享署名 4.0 国际许可协议进行许可