從連接器組件看Tomcat的線(xiàn)程模型——BIO模式(推薦)
在高版本的Tomcat中，默認(rèn)的模式都是使用NIO模式，在Tomcat 9中，BIO模式的實(shí)現(xiàn)Http11Protocol甚至都已經(jīng)被刪除了。但是了解BIO的工作機(jī)制以及其優(yōu)缺點(diǎn)對(duì)學(xué)習(xí)其他模式有有幫助。只有對(duì)比后，你才能知道其他模式的優(yōu)勢(shì)在哪里。
Http11Protocol表示阻塞式的HTTP協(xié)議的通信，它包含從套接字連接接收、處理、響應(yīng)客戶(hù)端的整個(gè)過(guò)程。它主要包含JIoEndpoint組件和Http11Processor組件。啟動(dòng)時(shí)，JIoEndpoint組件將啟動(dòng)某個(gè)端口的監(jiān)聽(tīng)，一個(gè)請(qǐng)求到來(lái)后將被扔進(jìn)線(xiàn)程池，線(xiàn)程池進(jìn)行任務(wù)處理，處理過(guò)程中將通過(guò)協(xié)議解析器Http11Processor組件對(duì)HTTP協(xié)議解析，并且通過(guò)適配器Adapter匹配到指定的容器進(jìn)行處理以及響應(yīng)客戶(hù)端。
這里我們結(jié)合Spring Boot中內(nèi)嵌的Tomcat來(lái)看看連接器的工作原理。建議使用低版本的Spring Boot，高版本的Spring Boot中，都已經(jīng)使用Tomcat 9了。Tomcat 9已經(jīng)刪除了BIO的實(shí)現(xiàn)模式。這邊我選擇的Spring Boot版本是2.0.0.RELEASE。
要怎么看Connector組件的源代碼
我們現(xiàn)在要開(kāi)始通過(guò)Connector組件的源代碼來(lái)分析連接器組件的工作過(guò)程。但是Tomcat的源代碼這么多，我們到底要怎么看這個(gè)代碼呢？之前的文章中總結(jié)了Tomcat的啟動(dòng)流程，如下圖所示：
上面的時(shí)序圖給我們分析Connector組件的源代碼提供了思路：從連接器組件的init方法和start方法開(kāi)始分析。
Connector組件工作時(shí)序圖
Spring Boot中內(nèi)嵌 的Tomcat默認(rèn)使用的都是NIO模式，想要研究BIO模式還要自己折騰一番。Spring Boot中提供了WebServerFactoryCustomizer接口，我們可以實(shí)現(xiàn)這個(gè)接口來(lái)對(duì)Servlet容器工廠(chǎng)進(jìn)行自定義配置。下面是我自己實(shí)現(xiàn)的一個(gè)配置類(lèi)，只是簡(jiǎn)單地將IO模型設(shè)置成了BIO模式，假如你還需要進(jìn)行其他配置也可以在里面進(jìn)行額外配置。
@Configuration
public class TomcatConfig {
@Bean
public WebServerFactoryCustomizer tomcatCustomer() {
return new TomcatCustomerConfig();
}
public class TomcatCustomerConfig implements WebServerFactoryCustomizer<TomcatServletWebServerFactory> {
@Override
public void customize(TomcatServletWebServerFactory factory) {
if (factory != null) {
factory.setProtocol("org.apache.coyote.http11.Http11Protocol");
}
}
}
}
經(jīng)過(guò)上面的配置后，Tomcat的連接器組件就會(huì)以BIO的模式處理請(qǐng)求。
由于Tomcat整理的代碼非常多，想要在一篇文章中分析所有的代碼是不太現(xiàn)實(shí)的。這邊，我梳理了連接器組件工作的時(shí)序圖，根據(jù)這個(gè)時(shí)序圖，我分析了幾個(gè)關(guān)鍵的代碼點(diǎn)，其他細(xì)節(jié)大家可以根據(jù)我的時(shí)序圖自己看代碼，這塊代碼也不是很復(fù)雜。
這邊的重點(diǎn)代碼是在JIoEndpoint的init()方法和start()方法。JIoEndpoint的init()方法主要是做了ServerSocket的端口綁定。具體代碼如下：
@Override
public void bind() throws Exception {
// Initialize thread count defaults for acceptor
if (acceptorThreadCount == 0) {
acceptorThreadCount = 1;
}
// Initialize maxConnections
if (getMaxConnections() == 0) {
// User hasn't set a value - use the default
setMaxConnections(getMaxThreadsWithExecutor());
}
if (serverSocketFactory == null) {
if (isSSLEnabled()) {
serverSocketFactory =
handler.getSslImplementation().getServerSocketFactory(this);
} else {
serverSocketFactory = new DefaultServerSocketFactory(this);
}
}
//這邊做了ServerSocket的端口綁定
if (serverSocket == null) {
try {
if (getAddress() == null) {
//沒(méi)指定具體地址，Tomcat會(huì)監(jiān)聽(tīng)所有地址過(guò)來(lái)的請(qǐng)求
serverSocket = serverSocketFactory.createSocket(getPort(),
getBacklog());
} else {
//指定了具體地址，Tomcat只監(jiān)聽(tīng)這個(gè)地址過(guò)來(lái)的請(qǐng)求
serverSocket = serverSocketFactory.createSocket(getPort(),
getBacklog(), getAddress());
}
} catch (BindException orig) {
String msg;
if (getAddress() == null)
msg = orig.getMessage() + " <null>:" + getPort();
else
msg = orig.getMessage() + " " +
getAddress().toString() + ":" + getPort();
BindException be = new BindException(msg);
be.initCause(orig);
throw be;
}
}
}
再來(lái)看JIoEndpoint的start方法。
public void startInternal() throws Exception {
if (!running) {
running = true;
paused = false;
//創(chuàng)建線(xiàn)程池
if (getExecutor() == null) {
createExecutor();
}
//創(chuàng)建ConnectionLatch
initializeConnectionLatch();
//創(chuàng)建accept線(xiàn)程，這個(gè)線(xiàn)程是請(qǐng)求處理的初始線(xiàn)程
startAcceptorThreads();
// Start async timeout thread
Thread timeoutThread = new Thread(new AsyncTimeout(),
getName() + "-AsyncTimeout");
timeoutThread.setPriority(threadPriority);
timeoutThread.setDaemon(true);
timeoutThread.start();
}
}
上面的代碼中，需要我們重點(diǎn)關(guān)注的就是startAcceptorThreads()方法。我們看下這個(gè)Accept線(xiàn)程的具體實(shí)現(xiàn)。
protected final void startAcceptorThreads() {
int count = getAcceptorThreadCount();
acceptors = new Acceptor[count];
//根據(jù)配置，設(shè)置一定數(shù)量的accept線(xiàn)程
for (int i = 0; i < count; i++) {
acceptors[i] = createAcceptor();
String threadName = getName() + "-Acceptor-" + i;
acceptors[i].setThreadName(threadName);
Thread t = new Thread(acceptors[i], threadName);
t.setPriority(getAcceptorThreadPriority());
t.setDaemon(getDaemon());
t.start();
}
}
Acceptor線(xiàn)程的具體處理實(shí)現(xiàn)，重點(diǎn)看run方法。
protected class Acceptor extends AbstractEndpoint.Acceptor {
@Override
public void run() {
int errorDelay = 0;
// Loop until we receive a shutdown command
while (running) {
// Loop if endpoint is paused
while (paused && running) {
state = AcceptorState.PAUSED;
try {
Thread.sleep(50);
} catch (InterruptedException e) {
// Ignore
}
}
if (!running) {
break;
}
state = AcceptorState.RUNNING;
try {
//if we have reached max connections, wait
//達(dá)到連接上限，acceptor線(xiàn)程進(jìn)入等待狀態(tài)，直到其他線(xiàn)程釋放,這是一種簡(jiǎn)單的通過(guò)連接數(shù)量進(jìn)行流量控制的手段
//通過(guò)實(shí)現(xiàn)AQS組件實(shí)現(xiàn)（LimitLatch），思路是先初始化同步器的最大限制值，然后每接收一個(gè)套接字就將計(jì)數(shù)變量累加1，每關(guān)閉一個(gè)套接字將計(jì)數(shù)變量減1
countUpOrAwaitConnection();
Socket socket = null;
try {
//accept下個(gè)socket連接，如果一直沒(méi)有連接過(guò)來(lái)這個(gè)方法阻塞
socket = serverSocketFactory.acceptSocket(serverSocket);
} catch (IOException ioe) {
//有異常的話(huà)釋放一個(gè)連接數(shù)
countDownConnection();
errorDelay = handleExceptionWithDelay(errorDelay);
throw ioe;
}
// Successful accept, reset the error delay
errorDelay = 0;
//對(duì)socket進(jìn)行適當(dāng)配置
if (running && !paused && setSocketOptions(socket)) {
// 處理這個(gè)socket請(qǐng)求，這邊也是重點(diǎn)。
if (!processSocket(socket)) {
countDownConnection();
// Close socket right away
closeSocket(socket);
}
} else {
countDownConnection();
// Close socket right away
closeSocket(socket);
}
} catch (IOException x) {
if (running) {
log.error(sm.getString("endpoint.accept.fail"), x);
}
} catch (NullPointerException npe) {
if (running) {
log.error(sm.getString("endpoint.accept.fail"), npe);
}
} catch (Throwable t) {
ExceptionUtils.handleThrowable(t);
log.error(sm.getString("endpoint.accept.fail"), t);
}
}
state = AcceptorState.ENDED;
}
}
上面線(xiàn)程處理類(lèi)中的processSocket(socket)是處理具體請(qǐng)求的方法，這個(gè)方法將請(qǐng)求進(jìn)行了包裝然后“扔進(jìn)”了線(xiàn)程池進(jìn)行處理。但是這個(gè)不是連接器組件的重點(diǎn)，后面會(huì)在介紹請(qǐng)求流轉(zhuǎn)時(shí)介紹Tomcat怎么處理請(qǐng)求的。
到這邊，對(duì)Tomcat的BIO模式做了個(gè)簡(jiǎn)單的介紹。其實(shí)大家可以看出來(lái)，如果對(duì)BIO模式進(jìn)行簡(jiǎn)化的話(huà)就是對(duì)傳統(tǒng)的ServerSocket的操作，還有就是對(duì)請(qǐng)求的處理加上了線(xiàn)程池優(yōu)化。
BIO模式總結(jié)
關(guān)于上圖中的各個(gè)組件做下簡(jiǎn)要說(shuō)明。
限流組件LimitLatch
LimitLatch組件是一個(gè)流量控制組件，目的是為了不讓Tomcat組件被大流量沖垮。LimitLatch通過(guò)AQS機(jī)制實(shí)現(xiàn)，這個(gè)組件啟動(dòng)時(shí)先初始化同步器的最大限制值，然后每接收一個(gè)套接字就將計(jì)數(shù)變量累加1，每關(guān)閉一個(gè)套接字將計(jì)數(shù)變量減1。當(dāng)連接數(shù)達(dá)到最大值時(shí)，Acceptor線(xiàn)程就進(jìn)入等待狀態(tài)，不再accept新的socket連接。
需要額外說(shuō)明的是，當(dāng)?shù)竭_(dá)最大連接數(shù)時(shí)（已經(jīng)LimitLatch組件最大值，acceptor組件阻塞了），操作系統(tǒng)底層還是會(huì)繼續(xù)接收客戶(hù)端連接，并將請(qǐng)求放入一個(gè)隊(duì)列中（backlog隊(duì)列）。這個(gè)隊(duì)列是有一個(gè)默認(rèn)長(zhǎng)度的，默認(rèn)值是100。當(dāng)然，這個(gè)值可以通過(guò)server.xml的Connector節(jié)點(diǎn)的acceptCount屬性配置。假如在短時(shí)間內(nèi)，有大量請(qǐng)求過(guò)來(lái)，連backlog隊(duì)列都放滿(mǎn)了，那么操作系統(tǒng)將拒絕接收后續(xù)的連接，返回“connection refused”。
在BIO模式中，LimitLatch組件支持的最大連接數(shù)是通過(guò)server.xml的Connector節(jié)點(diǎn)的maxConnections屬性設(shè)置的，如果設(shè)置成-1，則表示不限制。
接收器組件Acceptor
這個(gè)組件的職責(zé)非常簡(jiǎn)單，就是接收Socket連接，對(duì)Socket做相應(yīng)的設(shè)置，然后直接丟給線(xiàn)程池處理。accept線(xiàn)程的數(shù)量也可以進(jìn)行配置。
套接字工廠(chǎng)ServerSocketFactory
Acceptor線(xiàn)程在具體accept socket連接時(shí)是通過(guò)ServerSocketFactory組件獲取的。Tomcat中有兩個(gè)ServerSocketFactory的實(shí)現(xiàn)：DefaultServerSocketFactory和JSSESocketFactory。分別對(duì)應(yīng)HTTP和HTTPS的情況。
Tomcat中存在一個(gè)變量SSLEnabled用于標(biāo)識(shí)是否使用加密通道，通過(guò)對(duì)此變量的定義就可以決定使用哪個(gè)工廠(chǎng)類(lèi)，Tomcat提供了外部配置文件供用戶(hù)自定義。下面的配置中SSLEnabled="true"表示使用加密方式，也就是使用JSSESocketFactory來(lái)accept具體的socket連接。
<Connector port="8443" protocol="org.apache.coyote.http11.Http11NioProtocol"
maxThreads="150" SSLEnabled="true">
<SSLHostConfig>
<Certificate certificateKeystoreFile="conf/localhost-rsa.jks"
type="RSA" />
</SSLHostConfig>
</Connector>
線(xiàn)程池組件
Tomcat中的線(xiàn)程池是對(duì)JDK中線(xiàn)程池的簡(jiǎn)單改裝。在線(xiàn)程創(chuàng)建策略上有點(diǎn)區(qū)別：Tomcat中的線(xiàn)程池在線(xiàn)程數(shù)大于coreSize后不會(huì)立馬將線(xiàn)程提交到隊(duì)列中，而是先判斷活動(dòng)線(xiàn)程數(shù)是否已經(jīng)達(dá)到maxSize，只有達(dá)到maxSize后才會(huì)將線(xiàn)程提交到隊(duì)列中。
Connector組件的Executor分為兩種類(lèi)型：共享Executor和私有Executor。共享Executor的話(huà)是指在Service組件中定義的Executor。
任務(wù)定義器SocketProcessor
在將Socket扔進(jìn)線(xiàn)程池之前我們需要定義任務(wù)怎么處理這個(gè)Socket。SocketProcessor就是這個(gè)任務(wù)定義，這個(gè)類(lèi)實(shí)現(xiàn)了Runnable接口。
protected class SocketProcessor implements Runnable {
//進(jìn)行Debug調(diào)試的時(shí)候可以從這個(gè)類(lèi)的run方法開(kāi)始調(diào)試
@Override
public void run() {
//對(duì)套接字進(jìn)行處理并輸出響應(yīng)
//對(duì)連接限流器LimitLatch減一
//關(guān)閉套接字
}
}
SocketProcessor的任務(wù)主要分為三個(gè)：處理套接字并響應(yīng)客戶(hù)端，連接數(shù)計(jì)數(shù)器減1，關(guān)閉套接字。其中對(duì)套接字的處理是最重要也是最復(fù)雜的，它包括對(duì)底層套接字字節(jié)流的讀取， HTTP協(xié)議請(qǐng)求報(bào)文的解析（請(qǐng)求行、請(qǐng)求頭部、請(qǐng)求體等信息的解析），根據(jù)請(qǐng)求行解析得到的路徑去尋找相應(yīng)虛擬主機(jī)上的Web項(xiàng)目資源，根據(jù)處理的結(jié)果組裝好HTTP協(xié)議響應(yīng)報(bào)文輸出到客戶(hù)端。
這邊暫時(shí)先不分析對(duì)套接字的具體處理流程，因?yàn)檫@邊文章主要還是將連接器的線(xiàn)程模型，涉及的東西太多容易搞混，關(guān)于Tomcat對(duì)socket的具體處理后面會(huì)寫(xiě)文章分析。
總結(jié)
到此這篇關(guān)于從連接器組件看Tomcat的線(xiàn)程模型——BIO模式的文章就介紹到這了,更多相關(guān)Tomcat線(xiàn)程模型內(nèi)容請(qǐng)搜索本站以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持本站！
版權(quán)聲明：本站文章來(lái)源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有，歡迎引用、轉(zhuǎn)載，請(qǐng)保持原文完整并注明來(lái)源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站，禁止在非www.sddonglingsh.com所屬的服務(wù)器上建立鏡像，否則將依法追究法律責(zé)任。本站部分內(nèi)容來(lái)源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來(lái)，僅供學(xué)習(xí)參考，不代表本站立場(chǎng)，如有內(nèi)容涉嫌侵權(quán)，請(qǐng)聯(lián)系alex-e#qq.com處理。
關(guān)注官方微信