1. Reactor三種線程模型

1.1. 單線程模型

Reactor單線程模型，指的是所有的IO操作都在同一個(gè)NIO線程上面完成，NIO線程的職責(zé)如下：

1）作為NIO服務(wù)端，接收客戶端的TCP連接；2）作為NIO客戶端，向服務(wù)端發(fā)起TCP連接；3）讀取通信對(duì)端的請(qǐng)求或者應(yīng)答消息；4）向通信對(duì)端發(fā)送消息請(qǐng)求或者應(yīng)答消息。

Reactor單線程模型示意圖如下所示：

Reactor單線程模型

由于Reactor模式使用的是異步非阻塞IO，所有的IO操作都不會(huì)導(dǎo)致阻塞，理論上一個(gè)線程可以獨(dú)立處理所有IO相關(guān)的操作。從架構(gòu)層面看，一個(gè)NIO線程確實(shí)可以完成其承擔(dān)的職責(zé)。例如，通過(guò)Acceptor類接收客戶端的TCP連接請(qǐng)求消息，鏈路建立成功之后，通過(guò)Dispatch將對(duì)應(yīng)的ByteBuffer派發(fā)到指定的Handler上進(jìn)行消息解碼。用戶線程可以通過(guò)消息編碼通過(guò)NIO線程將消息發(fā)送給客戶端。

對(duì)于一些小容量應(yīng)用場(chǎng)景，可以使用單線程模型。但是對(duì)于高負(fù)載、大并發(fā)的應(yīng)用場(chǎng)景卻不合適，主要原因如下：1）一個(gè)NIO線程同時(shí)處理成百上千的鏈路，性能上無(wú)法支撐，即便NIO線程的CPU負(fù)荷達(dá)到100%，也無(wú)法滿足海量消息的編碼、解碼、讀取和發(fā)送；2）當(dāng)NIO線程負(fù)載過(guò)重之后，處理速度將變慢，這會(huì)導(dǎo)致大量客戶端連接超時(shí)，超時(shí)之后往往會(huì)進(jìn)行重發(fā)，這更加重了NIO線程的負(fù)載，最終會(huì)導(dǎo)致大量消息積壓和處理超時(shí)，成為系統(tǒng)的性能瓶頸；3）可靠性問(wèn)題：一旦NIO線程意外跑飛，或者進(jìn)入死循環(huán)，會(huì)導(dǎo)致整個(gè)系統(tǒng)通信模塊不可用，不能接收和處理外部消息，造成節(jié)點(diǎn)故障。

為了解決這些問(wèn)題，演進(jìn)出了Reactor多線程模型，如下。

1.2. 多線程模型

Rector多線程模型與單線程模型最大的區(qū)別就是有一組NIO線程處理IO操作，它的原理圖如下：

Rector多線程模型

Reactor多線程模型的特點(diǎn)：

1）有專門一個(gè)NIO線程-Acceptor線程用于監(jiān)聽服務(wù)端，接收客戶端的TCP連接請(qǐng)求；2）網(wǎng)絡(luò)IO操作-讀、寫等由一個(gè)NIO線程池負(fù)責(zé)，線程池可以采用標(biāo)準(zhǔn)的JDK線程池實(shí)現(xiàn)，它包含一個(gè)任務(wù)隊(duì)列和N個(gè)可用的線程，由這些NIO線程負(fù)責(zé)消息的讀取、解碼、編碼和發(fā)送；3）1個(gè)NIO線程可以同時(shí)處理N條鏈路，但是1個(gè)鏈路只對(duì)應(yīng)1個(gè)NIO線程，防止發(fā)生并發(fā)操作問(wèn)題。

在絕大多數(shù)場(chǎng)景下，Reactor多線程模型都可以滿足性能需求；但是，在極個(gè)別特殊場(chǎng)景中，一個(gè)NIO線程負(fù)責(zé)監(jiān)聽和處理所有的客戶端連接可能會(huì)存在性能問(wèn)題。例如并發(fā)百萬(wàn)客戶端連接，或者服務(wù)端需要對(duì)客戶端握手進(jìn)行安全認(rèn)證，但是認(rèn)證本身非常損耗性能。在這類場(chǎng)景下，單獨(dú)一個(gè)Acceptor線程可能會(huì)存在性能不足問(wèn)題，為了解決性能問(wèn)題，產(chǎn)生了第三種Reactor線程模型-主從Reactor多線程模型。

1.3. 主從多線程模型

主從Reactor線程模型的特點(diǎn)是：服務(wù)端用于接收客戶端連接的不再是個(gè)1個(gè)單獨(dú)的NIO線程，而是一個(gè)獨(dú)立的NIO線程池。Acceptor接收到客戶端TCP連接請(qǐng)求處理完成后（可能包含接入認(rèn)證等），將新創(chuàng)建的SocketChannel注冊(cè)到IO線程池（sub reactor線程池）的某個(gè)IO線程上，由它負(fù)責(zé)SocketChannel的讀寫和編解碼工作。Acceptor線程池僅僅只用于客戶端的登陸、握手和安全認(rèn)證，一旦鏈路建立成功，就將鏈路注冊(cè)到后端subReactor線程池的IO線程上，由IO線程負(fù)責(zé)后續(xù)的IO操作。

主從多線程模型如下圖所示：

主從多線程模型

利用主從NIO線程模型，可以解決1個(gè)服務(wù)端監(jiān)聽線程無(wú)法有效處理所有客戶端連接的性能不足問(wèn)題。

它的工作流程總結(jié)如下：

1）從主線程池中隨機(jī)選擇一個(gè)Reactor線程作為Acceptor線程，用于綁定監(jiān)聽端口，接收客戶端連接；Acceptor線程接收客戶端連接請(qǐng)求之后創(chuàng)建新的SocketChannel，將其注冊(cè)到主線程池的其它Reactor線程上，由其負(fù)責(zé)接入認(rèn)證、IP黑白名單過(guò)濾、握手等操作；

2）步驟2完成之后，業(yè)務(wù)層的鏈路正式建立，將SocketChannel從主線程池的Reactor線程的多路復(fù)用器上摘除，重新注冊(cè)到Sub線程池的線程上，用于處理I/O的讀寫操作。

2. Netty線程模型

2.1. Netty線程模型分類

事實(shí)上，Netty的線程模型與1.2章節(jié)中介紹的三種Reactor線程模型相似，下面章節(jié)我們通過(guò)Netty服務(wù)端和客戶端的線程處理流程圖來(lái)介紹Netty的線程模型。

2.1.1. 服務(wù)端線程模型一種比較流行的做法是服務(wù)端監(jiān)聽線程和IO線程分離，類似于Reactor的多線程模型，它的工作原理圖如下：

2.1.2. 客戶端線程模型

相比于服務(wù)端，客戶端的線程模型簡(jiǎn)單一些，它的工作原理如下：

2.2. Reactor線程N(yùn)ioEventLoop

NioEventLoop是Netty的Reactor線程，它的職責(zé)如下：

作為服務(wù)端Acceptor線程，負(fù)責(zé)處理客戶端的請(qǐng)求接入； 作為客戶端Connecor線程，負(fù)責(zé)注冊(cè)監(jiān)聽連接操作位，用于判斷異步連接結(jié)果； 作為IO線程，監(jiān)聽網(wǎng)絡(luò)讀操作位，負(fù)責(zé)從SocketChannel中讀取報(bào)文； 作為IO線程，負(fù)責(zé)向SocketChannel寫入報(bào)文發(fā)送給對(duì)方，如果發(fā)生寫半包，會(huì)自動(dòng)注冊(cè)監(jiān)聽寫事件，用于后續(xù)繼續(xù)發(fā)送半包數(shù)據(jù)，直到數(shù)據(jù)全部發(fā)送完成； 作為定時(shí)任務(wù)線程，可以執(zhí)行定時(shí)任務(wù)，例如鏈路空閑檢測(cè)和發(fā)送心跳消息等； 作為線程執(zhí)行器可以執(zhí)行普通的任務(wù)線程（Runnable）。

2.3. NioEventLoop設(shè)計(jì)原理

我們知道當(dāng)系統(tǒng)在運(yùn)行過(guò)程中，如果頻繁的進(jìn)行線程上下文切換，會(huì)帶來(lái)額外的性能損耗。多線程并發(fā)執(zhí)行某個(gè)業(yè)務(wù)流程，業(yè)務(wù)開發(fā)者還需要時(shí)刻對(duì)線程安全保持警惕，哪些數(shù)據(jù)可能會(huì)被并發(fā)修改，如何保護(hù)？這不僅降低了開發(fā)效率，也會(huì)帶來(lái)額外的性能損耗。

串行執(zhí)行Handler鏈

為了解決上述問(wèn)題，Netty采用了串行化設(shè)計(jì)理念，從消息的讀取、編碼以及后續(xù)Handler的執(zhí)行，始終都由IO線程N(yùn)ioEventLoop負(fù)責(zé)，這就意外著整個(gè)流程不會(huì)進(jìn)行線程上下文的切換，數(shù)據(jù)也不會(huì)面臨被并發(fā)修改的風(fēng)險(xiǎn)，對(duì)于用戶而言，甚至不需要了解Netty的線程細(xì)節(jié)，這確實(shí)是個(gè)非常好的設(shè)計(jì)理念，它的工作原理圖如下：

一個(gè)NioEventLoop聚合了一個(gè)多路復(fù)用器Selector，因此可以處理成百上千的客戶端連接，Netty的處理策略是每當(dāng)有一個(gè)新的客戶端接入，則從NioEventLoop線程組中順序獲取一個(gè)可用的NioEventLoop，當(dāng)?shù)竭_(dá)數(shù)組上限之后，重新返回到0，通過(guò)這種方式，可以基本保證各個(gè)NioEventLoop的負(fù)載均衡。一個(gè)客戶端連接只注冊(cè)到一個(gè)NioEventLoop上，這樣就避免了多個(gè)IO線程去并發(fā)操作它。

Netty通過(guò)串行化設(shè)計(jì)理念降低了用戶的開發(fā)難度，提升了處理性能。利用線程組實(shí)現(xiàn)了多個(gè)串行化線程水平并行執(zhí)行，線程之間并沒有交集，這樣既可以充分利用多核提升并行處理能力，同時(shí)避免了線程上下文的切換和并發(fā)保護(hù)帶來(lái)的額外性能損耗。

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持好吧啦網(wǎng)。