java的nio之：淺析I/O模型

Love Lenka發表於2016-09-01

也許很多朋友在學習NIO的時候都會感覺有點吃力，對裡面的很多概念都感覺不是那麼明朗。在進入Java NIO程式設計之前，我們今天先來討論一些比較基礎的知識：I/O模型。下面本文先從同步和非同步的概念說起，然後接著闡述了阻塞和非阻塞的區別，接著介紹了阻塞IO和非阻塞IO的區別，然後介紹了同步IO和非同步IO的區別，接下來介紹了5種IO模型，最後介紹了兩種和高效能IO設計相關的設計模式（Reactor和Proactor）。

　　以下是本文的目錄大綱：

　　一.什麼是同步？什麼是非同步？

　　二.什麼是阻塞？什麼是非阻塞？

　　三.什麼是阻塞IO？什麼是非阻塞IO？

　　四.什麼是同步IO？什麼是非同步IO？

　　五.五種IO模型

　　六.兩種高效能IO設計模式

　　若有不正之處，請多多諒解並歡迎批評指正。

　　請尊重作者勞動成果，轉載請標明原文連結：

　　http://www.cnblogs.com/dolphin0520/p/3916526.html

一.什麼是同步？什麼是非同步？

　　同步和非同步的概念出來已經很久了，網上有關同步和非同步的說法也有很多。以下是我個人的理解：

　　同步就是：如果有多個任務或者事件要發生，這些任務或者事件必須逐個地進行，一個事件或者任務的執行會導致整個流程的暫時等待，這些事件沒有辦法併發地執行；

　　非同步就是：如果有多個任務或者事件發生，這些事件可以併發地執行，一個事件或者任務的執行不會導致整個流程的暫時等待。

　　這就是同步和非同步。舉個簡單的例子，假如有一個任務包括兩個子任務A和B，對於同步來說，當A在執行的過程中，B只有等待，直至A執行完畢，B才能執行；而對於非同步就是A和B可以併發地執行，B不必等待A執行完畢之後再執行，這樣就不會由於A的執行導致整個任務的暫時等待。

　　如果還不理解，可以先看下面這2段程式碼：

void fun1() {
       
  }
   
  void fun2() {
       
  }
   
  void function(){
      fun1();
      fun2()
      .....
      .....
  }

　　這段程式碼就是典型的同步，在方法function中，fun1在執行的過程中會導致後續的fun2無法執行，fun2必須等待fun1執行完畢才可以執行。

　　接著看下面這段程式碼：

void fun1() {
     
}
 
void fun2() {
     
}
 
void function(){
    new Thread(){
        public void run() {
            fun1();
        }
    }.start();
     
    new Thread(){
        public void run() {
            fun2();
        }
    }.start();
 
    .....
    .....
}

　　這段程式碼是一種典型的非同步，fun1的執行不會影響到fun2的執行，並且fun1和fun2的執行不會導致其後續的執行過程處於暫時的等待。

　　事實上，同步和非同步是一個非常廣的概念，它們的重點在於多個任務和事件發生時，一個事件的發生或執行是否會導致整個流程的暫時等待。我覺得可以將同步和非同步與Java中的synchronized關鍵字聯絡起來進行類比。當多個執行緒同時訪問一個變數時，每個執行緒訪問該變數就是一個事件，對於同步來說，就是這些執行緒必須逐個地來訪問該變數，一個執行緒在訪問該變數的過程中，其他執行緒必須等待；而對於非同步來說，就是多個執行緒不必逐個地訪問該變數，可以同時進行訪問。

　　因此，個人覺得同步和非同步可以表現在很多方面，但是記住其關鍵在於多個任務和事件發生時，一個事件的發生或執行是否會導致整個流程的暫時等待。一般來說，可以透過多執行緒的方式來實現非同步，但是千萬記住不要將多執行緒和非同步畫上等號，非同步只是宏觀上的一個模式，採用多執行緒來實現非同步只是一種手段，並且透過多程式的方式也可以實現非同步。

二.什麼是阻塞？什麼是非阻塞？

　　在前面介紹了同步和非同步的區別，這一節來看一下阻塞和非阻塞的區別。

　　阻塞就是：當某個事件或者任務在執行過程中，它發出一個請求操作，但是由於該請求操作需要的條件不滿足，那麼就會一直在那等待，直至條件滿足；

　　非阻塞就是：當某個事件或者任務在執行過程中，它發出一個請求操作，如果該請求操作需要的條件不滿足，會立即返回一個標誌資訊告知條件不滿足，不會一直在那等待。

　　這就是阻塞和非阻塞的區別。也就是說阻塞和非阻塞的區別關鍵在於當發出請求一個操作時，如果條件不滿足，是會一直等待還是返回一個標誌資訊。

　　舉個簡單的例子：

　　假如我要讀取一個檔案中的內容，如果此時檔案中沒有內容可讀，對於同步來說就是會一直在那等待，直至檔案中有內容可讀；而對於非阻塞來說，就會直接返回一個標誌資訊告知檔案中暫時無內容可讀。

　　在網上有一些朋友將同步和非同步分別與阻塞和非阻塞畫上等號，事實上，它們是兩組完全不同的概念。注意，理解這兩組概念的區別對於後面IO模型的理解非常重要。

　　同步和非同步著重點在於多個任務的執行過程中，一個任務的執行是否會導致整個流程的暫時等待；

　　而阻塞和非阻塞著重點在於發出一個請求操作時，如果進行操作的條件不滿足是否會返會一個標誌資訊告知條件不滿足。

　　理解阻塞和非阻塞可以同執行緒阻塞類比地理解，當一個執行緒進行一個請求操作時，如果條件不滿足，則會被阻塞，即在那等待條件滿足。

三.什麼是阻塞IO？什麼是非阻塞IO？

　　在瞭解阻塞IO和非阻塞IO之前，先看下一個具體的IO操作過程是怎麼進行的。

　　通常來說，IO操作包括：對硬碟的讀寫、對socket的讀寫以及外設的讀寫。

　　當使用者執行緒發起一個IO請求操作（本文以讀請求操作為例），核心會去檢視要讀取的資料是否就緒，對於阻塞IO來說，如果資料沒有就緒，則會一直在那等待，直到資料就緒；對於非阻塞IO來說，如果資料沒有就緒，則會返回一個標誌資訊告知使用者線程當前要讀的資料沒有就緒。當資料就緒之後，便將資料複製到使用者執行緒，這樣才完成了一個完整的IO讀請求操作，也就是說一個完整的IO讀請求操作包括兩個階段：

　　1）檢視資料是否就緒；

　　2）進行資料複製（核心將資料複製到使用者執行緒）。

　　那麼阻塞（blocking IO）和非阻塞（non-blocking IO）的區別就在於第一個階段，如果資料沒有就緒，在檢視資料是否就緒的過程中是一直等待，還是直接返回一個標誌資訊。

　　Java中傳統的IO都是阻塞IO，比如透過socket來讀資料，呼叫read()方法之後，如果資料沒有就緒，當前執行緒就會一直阻塞在read方法呼叫那裡，直到有資料才返回；而如果是非阻塞IO的話，當資料沒有就緒，read()方法應該返回一個標誌資訊，告知當前執行緒資料沒有就緒，而不是一直在那裡等待。

四.什麼是同步IO？什麼是非同步IO？

　　我們先來看一下同步IO和非同步IO的定義，在《Unix網路程式設計》一書中對同步IO和非同步IO的定義是這樣的：

　　A synchronous I/O operation causes the requesting process to be blocked until that I/O operation completes.
　　An asynchronous I/O operation does not cause the requesting process to be blocked.

　　從字面的意思可以看出：同步IO即如果一個執行緒請求進行IO操作，在IO操作完成之前，該執行緒會被阻塞；

　　而非同步IO為如果一個執行緒請求進行IO操作，IO操作不會導致請求執行緒被阻塞。

　　事實上，同步IO和非同步IO模型是針對使用者執行緒和核心的互動來說的：

　　對於同步IO：當使用者發出IO請求操作之後，如果資料沒有就緒，需要透過使用者執行緒或者核心不斷地去輪詢資料是否就緒，當資料就緒時，再將資料從核心複製到使用者執行緒；

　　而非同步IO：只有IO請求操作的發出是由使用者執行緒來進行的，IO操作的兩個階段都是由核心自動完成，然後傳送通知告知使用者執行緒IO操作已經完成。也就是說在非同步IO中，不會對使用者執行緒產生任何阻塞。

　　這是同步IO和非同步IO關鍵區別所在，同步IO和非同步IO的關鍵區別反映在資料複製階段是由使用者執行緒完成還是核心完成。所以說非同步IO必須要有作業系統的底層支援。

　　注意同步IO和非同步IO與阻塞IO和非阻塞IO是不同的兩組概念。

　　阻塞IO和非阻塞IO是反映在當使用者請求IO操作時，如果資料沒有就緒，是使用者執行緒一直等待資料就緒，還是會收到一個標誌資訊這一點上面的。也就是說，阻塞IO和非阻塞IO是反映在IO操作的第一個階段，在檢視資料是否就緒時是如何處理的。

五.五種IO模型

　　在《Unix網路程式設計》一書中提到了五種IO模型，分別是：阻塞IO、非阻塞IO、多路複用IO、訊號驅動IO以及非同步IO。

　　下面就分別來介紹一下這5種IO模型的異同。

1.阻塞IO模型

　　最傳統的一種IO模型，即在讀寫資料過程中會發生阻塞現象。

　　當使用者執行緒發出IO請求之後，核心會去檢視資料是否就緒，如果沒有就緒就會等待資料就緒，而使用者執行緒就會處於阻塞狀態，使用者執行緒交出CPU。當資料就緒之後，核心會將資料複製到使用者執行緒，並返回結果給使用者執行緒，使用者執行緒才解除block狀態。

　　典型的阻塞IO模型的例子為：

data = socket.read(); 

　　如果資料沒有就緒，就會一直阻塞在read方法。

2.非阻塞IO模型

　　當使用者執行緒發起一個read操作後，並不需要等待，而是馬上就得到了一個結果。如果結果是一個error時，它就知道資料還沒有準備好，於是它可以再次傳送read操作。一旦核心中的資料準備好了，並且又再次收到了使用者執行緒的請求，那麼它馬上就將資料複製到了使用者執行緒，然後返回。

　　所以事實上，在非阻塞IO模型中，使用者執行緒需要不斷地詢問核心資料是否就緒，也就說非阻塞IO不會交出CPU，而會一直佔用CPU。

　　典型的非阻塞IO模型一般如下：

while(true){
    data = socket.read();
    if(data!= error){
        處理資料
        break;
    }
}

　　但是對於非阻塞IO就有一個非常嚴重的問題，在while迴圈中需要不斷地去詢問核心資料是否就緒，這樣會導致CPU佔用率非常高，因此一般情況下很少使用while迴圈這種方式來讀取資料。

3.多路複用IO模型

　　多路複用IO模型是目前使用得比較多的模型。Java NIO實際上就是多路複用IO。

　　在多路複用IO模型中，會有一個執行緒不斷去輪詢多個socket的狀態，只有當 socket真正有讀寫事件時，才真正呼叫實際的IO讀寫操作。因為在多路複用IO模型中，只需要使用一個執行緒就可以管理多個socket，系統不需要建立新的程式或者執行緒，也不必維護這些執行緒和程式，並且只有在真正有socket讀寫事件進行時，才會使用IO資源，所以它大大減少了資源佔用。

　　在Java NIO中，是透過selector.select()去查詢每個通道是否有到達事件，如果沒有事件，則一直阻塞在那裡，因此這種方式會導致使用者執行緒的阻塞。

　　也許有朋友會說，我可以採用多執行緒+ 阻塞IO 達到類似的效果，但是由於在多執行緒 + 阻塞IO 中，每個socket對應一個執行緒，這樣會造成很大的資源佔用，並且尤其是對於長連線來說，執行緒的資源一直不會釋放，如果後面陸續有很多連線的話，就會造成效能上的瓶頸。

　　而多路複用IO模式，透過一個執行緒就可以管理多個socket，只有當socket真正有讀寫事件發生才會佔用資源來進行實際的讀寫操作。因此，多路複用IO比較適合連線數比較多的情況。

　　另外多路複用IO為何比非阻塞IO模型的效率高是因為在非阻塞IO中，不斷地詢問socket狀態時透過使用者執行緒去進行的，而在多路複用IO中，輪詢每個socket狀態是核心在進行的，這個效率要比使用者執行緒要高的多。

　　不過要注意的是，多路複用IO模型是透過輪詢的方式來檢測是否有事件到達，並且對到達的事件逐一進行響應。因此對於多路複用IO模型來說，一旦事件響應體很大，那麼就會導致後續的事件遲遲得不到處理，並且會影響新的事件輪詢。

4.訊號驅動IO模型

　　在訊號驅動IO模型中，當使用者執行緒發起一個IO請求操作，會給對應的socket註冊一個訊號函式，然後使用者執行緒會繼續執行，當核心資料就緒時會傳送一個訊號給使用者執行緒，使用者執行緒接收到訊號之後，便在訊號函式中呼叫IO讀寫操作來進行實際的IO請求操作。

5.非同步IO模型

　　非同步IO模型才是最理想的IO模型，在非同步IO模型中，當使用者執行緒發起read操作之後，立刻就可以開始去做其它的事。而另一方面，從核心的角度，當它受到一個asynchronous read之後，它會立刻返回，說明read請求已經成功發起了，因此不會對使用者執行緒產生任何block。然後，核心會等待資料準備完成，然後將資料複製到使用者執行緒，當這一切都完成之後，核心會給使用者執行緒傳送一個訊號，告訴它read操作完成了。也就說使用者執行緒完全不需要實際的整個IO操作是如何進行的，只需要先發起一個請求，當接收核心返回的成功訊號時表示IO操作已經完成，可以直接去使用資料了。

　　也就說在非同步IO模型中，IO操作的兩個階段都不會阻塞使用者執行緒，這兩個階段都是由核心自動完成，然後傳送一個訊號告知使用者執行緒操作已完成。使用者執行緒中不需要再次呼叫IO函式進行具體的讀寫。這點是和訊號驅動模型有所不同的，在訊號驅動模型中，當使用者執行緒接收到訊號表示資料已經就緒，然後需要使用者執行緒呼叫IO函式進行實際的讀寫操作；而在非同步IO模型中，收到訊號表示IO操作已經完成，不需要再在使用者執行緒中呼叫iO函式進行實際的讀寫操作。

　　注意，非同步IO是需要作業系統的底層支援，在Java 7中，提供了Asynchronous IO。

　　前面四種IO模型實際上都屬於同步IO，只有最後一種是真正的非同步IO，因為無論是多路複用IO還是訊號驅動模型，IO操作的第2個階段都會引起使用者執行緒阻塞，也就是核心進行資料複製的過程都會讓使用者執行緒阻塞。

六.兩種高效能IO設計模式

　　在傳統的網路服務設計模式中，有兩種比較經典的模式：

　　一種是多執行緒，一種是執行緒池。

　　對於多執行緒模式，也就說來了client，伺服器就會新建一個執行緒來處理該client的讀寫事件，如下圖所示：

　　這種模式雖然處理起來簡單方便，但是由於伺服器為每個client的連線都採用一個執行緒去處理，使得資源佔用非常大。因此，當連線數量達到上限時，再有使用者請求連線，直接會導致資源瓶頸，嚴重的可能會直接導致伺服器崩潰。

　　因此，為了解決這種一個執行緒對應一個客戶端模式帶來的問題，提出了採用執行緒池的方式，也就說建立一個固定大小的執行緒池，來一個客戶端，就從執行緒池取一個空閒執行緒來處理，當客戶端處理完讀寫操作之後，就交出對執行緒的佔用。因此這樣就避免為每一個客戶端都要建立執行緒帶來的資源浪費，使得執行緒可以重用。

　　但是執行緒池也有它的弊端，如果連線大多是長連線，因此可能會導致在一段時間內，執行緒池中的執行緒都被佔用，那麼當再有使用者請求連線時，由於沒有可用的空閒執行緒來處理，就會導致客戶端連線失敗，從而影響使用者體驗。因此，執行緒池比較適合大量的短連線應用。

　　因此便出現了下面的兩種高效能IO設計模式：Reactor和Proactor。

　　在Reactor模式中，會先對每個client註冊感興趣的事件，然後有一個執行緒專門去輪詢每個client是否有事件發生，當有事件發生時，便順序處理每個事件，當所有事件處理完之後，便再轉去繼續輪詢，如下圖所示：