淺談 Node.js 單執行緒模型

發表於2017-07-10

Node.js採用 事件驅動 和 非同步I/O 的方式,實現了一個單執行緒、高併發的執行時環境,而單執行緒就意味著同一時間只能做一件事,那麼Node.js如何利用單執行緒來實現高併發和非同步I/O?本文將圍繞這個問題來探討Node.js的單執行緒模型:

 

1、高併發

一般來說,高併發的解決方案就是多執行緒模型,伺服器為每個客戶端請求分配一個執行緒,使用同步I/O,系統通過執行緒切換來彌補同步I/O呼叫的時間開銷,比如Apache就是這種策略,由於I/O一般都是耗時操作,因此這種策略很難實現高效能,但非常簡單,可以實現複雜的互動邏輯。

而事實上,大多數網站的伺服器端都不會做太多的計算,它們只是接收請求,交給其它服務(比如從資料庫讀取資料),然後等著結果返回再發給客戶端。因此,Node.js針對這一事實採用了單執行緒模型來處理,它不會為每個接入請求分配一個執行緒,而是用一個主執行緒處理所有的請求,然後對I/O操作進行非同步處理,避開了建立、銷燬執行緒以及線上程間切換所需的開銷和複雜性。

 

2、事件迴圈

Node.js 在主執行緒中維護了一個事件佇列,當接收到請求後,就將請求作為一個事件放入該佇列中,然後繼續接收其他請求。當主執行緒空閒時(沒有請求接入時),就開始迴圈事件佇列,檢查佇列中是否有要處理的事件,這時要分兩種情況:如果是非I/O任務,就親自處理,並通過回撥函式返回到上層呼叫;如果是I/O任務,就從執行緒池中拿出一個執行緒來執行這個事件,並指定回撥函式,然後繼續迴圈佇列中的其他事件。當執行緒中的I/O任務完成後,就執行指定的回撥函式,並把這個完成的事件放到事件佇列的尾部,等待事件迴圈,當主執行緒再次迴圈到該事件時,就直接處理並返回給上層呼叫。 這個過程就叫事件迴圈(Event Loop),如下圖所示:

849589-20170709225535712-2041092305

這個圖是整個Node.js的執行原理,從左到右,從上到下,Node.js被分成了四層,分別是應用層V8引擎層Node API層LIBUV層,

  • 應用層: 即Javascript互動層,常見的就是Node.js的模組,比如 http,fs
  • V8引擎層: 即利用V8引擎來解析Javascript語法,進而和下層API互動
  • NodeAPI層: 為上層模組提供系統呼叫,一般是由C語言來實現,和作業系統進行互動
  • LIBUV層: 即Event Loop,是Node.js實現非同步的核心,由LIBUV庫來實現,而LIBUV中的執行緒池是由作業系統核心接受管理的。

在Node中,無論是Linux平臺還是Windows平臺,內部都是通過執行緒池來完成IO操作的,而LIBUV就是針對不同平臺的差異性實現了統一呼叫。因此,Node.js的單執行緒僅僅是指Javascript執行在單執行緒中,而並非Node.js是單執行緒。

 

3、事件驅動

Node.js實現非同步的核心是事件驅動。也就是說,它把每一個任務都當成事件來處理,然後通過Event Loop 模擬了非同步的效果,為了更具體、更清晰的理解和接受這個事實,我們用程式碼來描述這個實現過程:

【1】事件佇列

首先,我們需要定義一個事件佇列,既然是佇列,那就是一個先進先出(FIFO)的資料結構,我們用JS的陣列來描述,如下:

為了方便理解,我們規定:陣列的第一個元素是佇列的尾部,陣列的最後一個元素是佇列的頭部, unshfit 就是在尾部插入一個元素,pop就是從頭部彈出一個元素,這樣就實現了一個簡單的佇列。

【2】接收請求

定義一個總的入口來接收使用者請求,如下所示:

這個函式很簡單,就是把使用者的請求包裝成事件,放到佇列裡,然後繼續接收其他請求。

【3】事件迴圈 ( Event Loop )

當主執行緒處於空閒時就開始迴圈事件佇列,所以,我們再定義一個事件迴圈的函式:

主執行緒不停的檢測事件佇列,對於IO任務就交給執行緒池來處理,非IO任務就自己處理並返回。

【4】執行緒池

執行緒池接到任務以後,直接處理IO操作,比如讀取資料庫:

當IO任務完成以後就執行回撥,把請求結果存入事件中,並將該事件重新放入佇列中,等待迴圈,最後釋放執行緒。當主執行緒再次迴圈到該事件時,就直接處理了。

總結以上過程我們發現,Node.js 的主執行緒就是一個單執行緒,它接收請求後並沒有直接做處理,而是放到了事件佇列中,然後去接收其他請求了,空閒時再通過Event Loop來處理這些事件,從而實現了非同步效果,當然對於IO類任務還要依賴於系統層面的執行緒池來處理。因此,我們可以簡單理解為:Node.js本身是一個多執行緒平臺,而它對JS層面的任務處理是單執行緒。

 

4、Node.js軟肋

至此,我們對Node.js應該有了一個簡單而又清晰的認識,但Node.js 並不是什麼都能做。

上面提到,如果是I/O任務,Nodejs就把任務交給執行緒池來非同步處理,高效簡單,因此Node.js適合處理I/O密集型任務,但不是所有的任務都是I/O密集型任務,當碰到CPU密集型任務時,就是隻用CPU計算的操作,比如要對資料加解密(node.bcrypt.js),資料壓縮和解壓(node-tar),這時Node.js就會親自處理,一個一個的計算,前面的任務沒有執行完,後面的任務只能乾等著,如下圖所示:

849589-20170710011052884-2067215803

在事件佇列中,如果前面的CPU計算任務沒有完成,那麼後面的任務就會被阻塞,出現響應緩慢的情況,如果作業系統本身就是單核,那也就算了,但現在大部分伺服器都是多CPU或多核的,而Node.js只有一個EventLoop,也只佔用一個CPU/核心,當Node.js被CPU密集型任務佔用,導致其他任務被阻塞時,卻還有CPU/核心處理閒置狀態,造成資源浪費。因此Node.js並不適合CPU密集型任務。

 

5、Node.js適用場景

RESTful API,這是適合 Node 的理想情況,因為您可以構建它來處理數萬條連線。它仍然不需要大量邏輯;它本質上只是從某個資料庫中查詢一些值並將它們組成一個響應。由於響應是少量文字,入站請求也是少量的文字,因此流量不高,一臺機器甚至也可以處理最繁忙的公司的 API 需求。

實時程式,比如聊天服務,聊天應用程式是最能體現 Node.js 優點的例子:輕量級、高流量並且能良好的應對跨平臺裝置上執行密集型資料(雖然計算能力低)。同時,聊天也是一個非常值得學習的用例,因為它很簡單,並且涵蓋了目前為止一個典型的 Node.js 會用到的大部分解決方案。

相關文章