前言
当前的Web服务器有很多,比如Tomcat、Jetty、Nginx等等。我们在工作中大部分都是充当一个软件的使用者的角色。但是,如果我们想要用好这些软件,对于原理和架构层面的知识我们还是要了解一下的。就是人们所谓的要知其然还要知其所以然。
本博文主要从架构原理的角度来带领大家了解一下老牌Web服务器Tomcat的架构原理。
Tomcat 系统总体架构
之前说的不是很准确,准确的说呢,Tomcat是一个HTTP服务器。所谓HTTP服务器,也就是说该服务器可以处理HTTP请求。Tomcat的总体架构如下图所示:

如上图所示,HTTP服务器在接收到请求之后,将请求交给我们的Servlet容器去处理。而我们的Servlet容器是提供了一个接口,并加载了用户自定义的业务类。这样,容器和业务之间就解耦了。大家职责很分明,各干各的事情。这也体现了Tomcat容器的设计是很优雅的。
了解完架构,我们以下图为例来看一下Tomcat服务器对于一个HTTP请求的处理过程:

由上图我们可以看出处理流程分为下面几步:
- HTTP服务器会把请求信息使用ServletRequest对象封装起来
- 进⼀步去调用Servlet容器中某个具体的Servlet
- 在第2步中,Servlet容器拿到请求后,根据URL和Servlet的映射关系,找到相应的Servlet
- 如果Servlet还没有被加载,就用反射机制创建这个Servlet,并调用Servlet的init方法来完成初始化
- 接着调用这个具体Servlet的service方法来处理请求,请求处理结果使用ServletResponse对象封装
- 把ServletResponse对象返回给HTTP服务器,HTTP服务器会把响应发送给客户端
通过上⾯的讲解,我们发现Tomcat有两个非常重要的功能需要完成:
- 和客户端进行交互,进行socket通信,并处理字节流和Request/Response对象的转换
- Servlet容器处理具体业务
对此呢,Tomcat设计了两大核心组件来完成以上两个功能,就是连接器(Connector)和容器(Container)。在这里我们补充一点知识:HTTP是应用层的协议,它负责制定接收数据的格式规范。TCP/IP是传输协议,负责两个端点之间数据的传输规范。
Tomcat 连接器组件 Coyote
Coyote 是Tomcat 中连接器的组件名称 , 是对外的接⼝。客户端通过Coyote与服务器建立连接、发送请求并接受响应 。其特征有以下几点:
- Coyote 封装了底层的网络通信(Socket 请求及响应处理)
- Coyote 使Catalina 容器(容器组件)与具体的请求协议及IO操作方式完全解耦
- Coyote 将Socket输入转换封装为 Request 对象,进⼀步封装后交由Catalina 容器进行处理,处理请求完成后,Catalina 通过Coyote 提供的Response对象将结果写入输出流
- Coyote 负责的是具体协议(应用层)和IO(传输层)相关内容

Tomcat支持多种应用层协议和I/O模型,如下:

在 8.0 之前 ,Tomcat 默认采用的I/O方式为 BIO,之后改为 NIO。无论 NIO、NIO2 还是 APR, 在性能方面均优于以往的BIO。 如果采用APR, 甚至可以达到 Apache HTTP Server 的性能。
Coyote 的内部组件及流程

组件 | 作用描述 |
EndPoint | EndPoint 是 Coyote 通信端点,即通信监听的接口,是具体Socket接收和发送处理器,是对传输层的抽象,因此EndPoint用来实现TCP/IP协议的 |
Processor | Processor 是Coyote 协议处理接口,如果说EndPoint是用来实现TCP/IP协议的,那么Processor用来实现HTTP协议,Processor接收来自EndPoint的Socket,读取字节流解析成Tomcat Request和Response对象,并通过Adapter将其提交到容器处理,Processor是对应用层协议的抽象 |
ProtocolHandler | Coyote 协议接口, 通过Endpoint 和 Processor , 实现针对具体协议的处理能力。Tomcat 按照协议和I/O 提供了6个实现类 : AjpNioProtocol ,AjpAprProtocol, AjpNio2Protocol , Http11NioProtocol ,Http11Nio2Protocol ,Http11AprProtocol |
Adapter | 由于协议不同,客户端发过来的请求信息也不尽相同,Tomcat定义了自己的Request类来封装这些请求信息。ProtocolHandler接口负责解析请求并生成Tomcat Request类。但是这个Request对象不是标准的ServletRequest,不能用Tomcat Request作为参数来调用容器。Tomcat设计者的解决方案是引入CoyoteAdapter,这是适配器模式的经典运用,连接器调用CoyoteAdapter的Sevice方法,传入的是Tomcat Request对象,CoyoteAdapter负责将Tomcat Request转成ServletRequest,再调用容器 |
Tomcat Servlet 容器 Catalina
Tomcat 模块分层结构图及Catalina位置
Tomcat是⼀个由⼀系列可配置(conf/server.xml)的组件构成的Web容器,而Catalina是Tomcat的servlet容器。从另⼀个角度来说,Tomcat 本质上就是⼀款 Servlet 容器, 因为 Catalina 才是 Tomcat 的核⼼ , 其他模块都是为Catalina 提供⽀撑的。 比如 : 通过 Coyote 模块提供链接通信,Jasper 模块提供 JSP 引擎,Naming 提供JNDI 服务,Juli 提供日志服务。

Servlet 容器 Catalina 的结构
容器的结构参考下图:

其实,可以认为整个Tomcat就是⼀个Catalina实例,Tomcat 启动的时候会初始化这个实例,Catalina实例通过加载server.xml完成其他实例的创建,创建并管理⼀个Server,Server创建并管理多个服务(Service),每个服务(Service)又可以有多个Connector和⼀个Container。
Container 组件的具体结构
Container组件下有几种具体的组件,分别是Engine、Host、Context和Wrapper。这4种组件(容器)是父子关系。Tomcat通过⼀种分层的架构,使得Servlet容器具有很好的灵活性。
- Engine:表示整个Catalina的Servlet引擎,用来管理多个虚拟站点,⼀个Service最多只能有⼀个Engine,但是⼀个引擎可包含多个Host
- Host:代表⼀个虚拟主机,或者说⼀个站点,可以给Tomcat配置多个虚拟主机地址,而⼀个虚拟主机下可包含多个Context
- Context:表示⼀个Web应用程序, ⼀个Web应用可包含多个Wrapper
- Wrapper:表示⼀个Servlet,Wrapper 作为容器中的最底层,不能包含子容器
上述组件的配置其实就体现在conf/server.xml中。
Tomcat 服务器核心配置详解
Tomcat的核心配置在Tomcat目录下conf/server.xml文件中,该文件的主要结构如下:
<!--
Server 根元素,创建⼀个Server实例,⼦标签有 Listener、GlobalNamingResources、
Service
-->
<Server>
<!--定义监听器-->
<Listener/>
<!--定义服务器的全局JNDI资源 -->
<GlobalNamingResources/>
<!--
定义⼀个Service服务,⼀个Server标签可以有多个Service服务实例
-->
<Service/>
</Server>
Server 标签:
<!--
port:关闭服务器的监听端口
shutdown:关闭服务器的指令字符串
-->
<Server port="8005" shutdown="SHUTDOWN">
<!-- 以日志形式输出服务器 、操作系统、JVM的版本信息 -->
<Listener className="org.apache.catalina.startup.VersionLoggerListener" />
<!-- Security listener. Documentation at /docs/config/listeners.html
<Listener className="org.apache.catalina.security.SecurityListener" />
-->
<!--APR library loader. Documentation at /docs/apr.html -->
<!-- 加载(服务器启动) 和 销毁 (服务器停止) APR。 如果找不到APR库,则会输出日志,并
不影响 Tomcat启动 -->
<Listener className="org.apache.catalina.core.AprLifecycleListener"
SSLEngine="on" />
<!-- Prevent memory leaks due to use of particular java/javax APIs-->
<!-- 避免JRE内存泄漏问题 -->
<Listener
className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
<!-- 加载(服务器启动) 和 销毁(服务器停⽌) 全局命名服务 -->
<Listener
className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
<!-- 在Context停止时重建 Executor 池中的线程, 以避免ThreadLocal 相关的内存泄漏 -->
<Listener
className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
<!-- Global JNDI resources
Documentation at /docs/jndi-resources-howto.html
GlobalNamingResources 中定义了全局命名服务
-->
<GlobalNamingResources>
<!-- Editable user database that can also be used by
UserDatabaseRealm to authenticate users
-->
<Resource name="UserDatabase" auth="Container"
type="org.apache.catalina.UserDatabase"
description="User database that can be updated and saved"
factory="org.apache.catalina.users.MemoryUserDatabaseFactory"
pathname="conf/tomcat-users.xml" />
</GlobalNamingResources>
<!-- A "Service" is a collection of one or more "Connectors" that share
a single "Container" Note: A "Service" is not itself a "Container",
so you may not define subcomponents such as "Valves" at this level.
Documentation at /docs/config/service.html
-->
<Service name="Catalina">
...
</Service>
</Server>
Service 标签:
<!--
该标签用于创建 Service 实例,默认使用 org.apache.catalina.core.StandardService。
默认情况下,Tomcat 仅指定了Service 的名称, 值为 "Catalina"。
Service ⼦标签为 : Listener、Executor、Connector、Engine,
其中:
Listener 用于为Service添加⽣命周期监听器,
Executor 用于配置Service 共享线程池,
Connector 用于配置Service 包含的链接器,
Engine 用于配置Service中链接器对应的Servlet 容器引擎
-->
<Service name="Catalina">
...
</Service>
Executor 标签:
<!--
默认情况下,Service 并未添加共享线程池配置。 如果我们想添加⼀个线程池, 可以在
<Service> 下添加如下配置:
name:线程池名称,用于 Connector中指定
namePrefix:所创建的每个线程的名称前缀,⼀个单独的线程名称为
namePrefix+threadNumber
maxThreads:池中最⼤线程数
minSpareThreads:活跃线程数,也就是核心池线程数,这些线程不会被销毁,会⼀直存在
maxIdleTime:线程空闲时间,超过该时间后,空闲线程会被销毁,默认值为6000(1分钟),单位
毫秒
maxQueueSize:在被执行前最大线程排队数目,默认为Int的最⼤值,也就是广义的无限。除非特
殊情况,这个值不需要更改,否则会有请求不会被处理的情况发生
prestartminSpareThreads:启动线程池时是否启动 minSpareThreads部分线程。默认值为
false,即不启动
threadPriority:线程池中线程优先级,默认值为5,值从1到10
className:线程池实现类,未指定情况下,默认实现类为
org.apache.catalina.core.StandardThreadExecutor。如果想使用自定义线程池⾸先需要实现
org.apache.catalina.Executor接口
-->
<Executor name="commonThreadPool"
namePrefix="thread-exec-"
maxThreads="200"
minSpareThreads="100"
maxIdleTime="60000"
maxQueueSize="Integer.MAX_VALUE"
prestartminSpareThreads="false"
threadPriority="5"
className="org.apache.catalina.core.StandardThreadExecutor"/>
Connector 标签:
connector 标签⽤于创建链接器实例默认情况下,server.xml 配置了两个连接器,⼀个支持HTTP协议,⼀个支持AJP协议⼤多数情况下,我们并不需要新增连接器配置,只是根据需要对已有连接器进行优化。
<!--
port:
端口号,Connector 用于创建服务端Socket 并进行监听, 以等待客户端请求连接。如果该属性设置
为0, Tomcat将会随机选择⼀个可⽤的端⼝号给当前Connector使用
protocol:
当前Connector ⽀持的访问协议。 默认为 HTTP/1.1 , 并采用自动切换机制选择⼀个基于 JAVA
NIO 的连接器或者基于本地APR的链接器(根据本地是否含有Tomcat的本地库判定)
connectionTimeOut:
Connector 接收链接后的等待超时时间, 单位为毫秒。 -1 表示不超时。
redirectPort:
当前Connector 不⽀持SSL请求, 接收到了⼀个请求, 并且也符合security-constraint 约束,
需要SSL传输,Catalina自动将请求重定向到指定的端口。
executor:
指定共享线程池的名称, 也可以通过maxThreads、minSpareThreads 等属性配置内部线程池。
URIEncoding:
用于指定编码URI的字符编码, Tomcat8.x版本默认的编码为 UTF-8 , Tomcat7.x版本默认为ISO-
8859-1
-->
<!--org.apache.coyote.http11.Http11NioProtocol , ⾮阻塞式 Java NIO 链接器-->
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000"
redirectPort="8443" />
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />
可以使用共享线程池:
<Connector port="8080"
protocol="HTTP/1.1"
executor="commonThreadPool"
maxThreads="1000"
minSpareThreads="100"
acceptCount="1000"
maxConnections="1000"
connectionTimeout="20000"
compression="on"
compressionMinSize="2048"
disableUploadTimeout="true"
redirectPort="8443"
URIEncoding="UTF-8" />
Engine (Engine 表示 Servlet 引擎)标签:
<!--
name: 用于指定Engine 的名称, 默认为Catalina
defaultHost:默认使用的虚拟主机名称, 当客户端请求指向的主机无效时, 将交由默认的虚拟主机处
理, 默认为localhost
-->
<Engine name="Catalina" defaultHost="localhost">
...
</Engine>
Host 标签(Host 标签用于配置⼀个虚拟主机):
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
...
</Host>
Context 标签(Context 标签⽤于配置⼀个Web应用):
<Host name="www.abc.com" appBase="webapps" unpackWARs="true"
autoDeploy="true">
<!--
docBase:Web应用目录或者War包的部署路径。可以是绝对路径,也可以是相对于 Host appBase的
相对路径。
path:Web应用的Context 路径。如果我们Host名为localhost, 则该web应用访问的根路径为:
http://localhost:8080/web_demo。
-->
<Context docBase="/Users/yingdian/web_demo" path="/web3"></Context>
<Valve className="org.apache.catalina.valves.AccessLogValve"
directory="logs"
prefix="localhost_access_log" suffix=".txt"
pattern="%h %l %u %t "%r" %s %b" />
</Host>
以上,就是对于Tomcat架构的介绍内容。
文章评论