深入Java原始碼理解執行緒池原理

林灣村龍貓發表於2019-03-01

程式執行,其本質上,是對系統資源(CPU、記憶體、磁碟、網路等等)的使用。如何高效的使用這些資源是我們程式設計優化演進的一個方向。今天說的執行緒池是對CPU的利用的優化手段。

網上有不少介紹如何使用執行緒池的文章,那我想說點什麼呢?我希望檢視執行緒池原理,明白池化技術的基本設計思路。遇到其他相似問題可以解決。

池化技術

何為池化技術,簡單點來說,就是提前儲存大量的資源,以備不時之需。在資源有限的情況下,該技術可以大大提升資源的利用率,提升效能等。

目前比較典型的池化技術有:
執行緒池、連線池、記憶體池、物件池等。

本文主要來介紹一下其中比較簡單的執行緒池的實現原理,希望讀者們可以舉一反三,通過對執行緒池的理解,學習並掌握所有的程式設計中池化技術的底層原理,一通百通。

建立一個執行緒

在java的併發程式設計中,執行緒是十分重要的,在Java中,建立一個執行緒比較簡單:

public class App {
    public static void main(String[] args) throws Exception {
        new Thread(new Runnable() {
            @Override
            public void run() {
                System.out.println("執行緒執行中");
            }
        }).start();
    }
}
複製程式碼

我們通過建立一個執行緒物件,並且實現Runnable介面就可以實現一個簡單的執行緒。可以利用上多核CPU。當一個任務結束,當前執行緒就結束。

但很多時候,我們不止會執行一個任務。如果每次都是如此的建立執行緒->執行任務->銷燬執行緒,會造成很大的效能開銷的。

那能否一個執行緒建立後,執行完一個任務後,又去執行另一個任務,而不是銷燬。這就是執行緒池。

這就是池化技術的思想,通過預先建立好多個執行緒,放在池中,這樣可以在需要使用執行緒的時候直接獲取,避免多次重複建立、銷燬代理的開銷。

執行緒池的簡單使用

以下程式碼,就是在java中建立執行緒池:

import java.util.concurrent.*;

public class App {
    public static void main(String[] args) throws Exception {
        ExecutorService executorService = new ThreadPoolExecutor(1, 1,
                60L, TimeUnit.SECONDS,
                new ArrayBlockingQueue<>(10));

        executorService.execute(new Runnable() {
            @Override
            public void run() {
                System.out.println("abcdefg");
            }
        });

        executorService.shutdown();
    }
}
複製程式碼

JDK提供給外部的介面也很簡單。直接呼叫ThreadPoolExecutor構造一個就可以了,也可以通過Executors靜態工廠構建,但一般不建議。

可以看到,開發者想要在程式碼中使用執行緒池還是比較簡單的,這得益於Java給我們封裝好了一系列的API。很多時候,我們需要知道這些API後面幹了些啥,以便於我們更好的設計與實現我們的程式碼。

執行緒池建構函式

通常,一般建構函式會反映出這個工具或這個物件的資料儲存結構。

建構函式

如果把執行緒池比作一個公司。公司會有正式員工處理正常業務,如果工作量大的話,會僱傭外包人員來工作。閒時就可以釋放外包人員以減少公司管理開銷。一個公司因為成本關係,僱傭的人員始終是有最大數。如果這時候還有任務處理不過來,就走需求池排任務。

  • acc : 獲取呼叫上下文
  • corePoolSize: 核心執行緒數量,可以類比正式員工數量,常駐執行緒數量。
  • maximumPoolSize: 最大的執行緒數量,公司最多僱傭員工數量。常駐+臨時執行緒數量。
  • workQueue:多餘任務等待佇列,再多的人都處理不過來了,需要等著,在這個地方等。
  • keepAliveTime:非核心執行緒空閒時間,就是外包人員等了多久,如果還沒有活幹,解僱了。
  • threadFactory: 建立執行緒的工廠,在這個地方可以統一處理建立的執行緒的屬性。每個公司對員工的要求不一樣,恩,在這裡設定員工的屬性。
  • handler:執行緒池拒絕策略,什麼意思呢?就是當任務實在是太多,人也不夠,需求池也排滿了,還有任務咋辦?預設是不處理,丟擲異常告訴任務提交者,我這忙不過來了。

新增一個任務

原始碼

核心模組用紅框標記了。

  • 第一個紅框:判斷工作的執行緒數有沒有超過最大核心執行緒數量,如果沒有超過新鎮新的worker執行緒。並且推出。
  • 第二個紅框:判斷執行緒池是否在執行,如果在,任務佇列是否允許插入,插入成功再次驗證執行緒池是否執行,如果不再執行,移除插入的任務,然後丟擲拒絕策略。如果再執行,沒有執行緒了,就啟用一個執行緒。
  • 第三個紅框:如果新增非核心執行緒失敗,就直接拒絕了。

這裡邏輯稍微有點複雜,畫了個流程圖僅供參考

新增任務流程.png

接下來,我們看看如何新增一個工作執行緒的? addWork

新增worker執行緒

新增work1

這裡程式碼有點長,沒關係,也是分塊的,總共有5個關鍵的程式碼塊。

  • 第一個紅框:做是否能夠新增工作執行緒條件過濾。
    • 判斷執行緒池狀態,如果執行緒池已經關了,就不提交任務了。
  • 第二個紅框:做自旋,更新建立執行緒數量。
    新增work2
  • 第一個紅框:獲取執行緒池主鎖。
  • 第二個紅框:新增執行緒到workers中(執行緒池中)。
  • 第三個紅框:啟動新建的執行緒。
    這樣就應該清晰很多了。

有人或許會疑問 retry 是什麼?這個是java中的goto語法。只能運用在break和continue後面。

接下來,我們看看works是什麼。

works

一個hashSet。
到這來就完成了一個任務的提交。當一個執行緒完成了首次任務的執行,後續如何處理其他的請求的呢?

worker執行緒處理佇列任務

任務的執行
  • 第一個紅框:是否是第一次執行任務,或者從佇列中可以獲取到任務。
  • 第二個紅框:獲取到任務後,執行任務開始前操作鉤子。
  • 第三個紅框:執行任務。
  • 第四個紅框:執行任務後鉤子。

這兩個鉤子(beforeExecute,afterExecute)允許我們自己繼承執行緒池,做任務執行前後處理。有意思。
到這裡,原始碼分析到此為止。接下來做一下簡單的總結。

總結

  1. 所謂執行緒池本質是一個hashSet。多餘的任務會放在阻塞佇列中。
  2. 只有當阻塞佇列滿了後,才會觸發非核心執行緒的建立。所以非核心執行緒只是臨時過來打雜的。直到空閒了,然後自己關閉了。
  3. 執行緒池提供了兩個鉤子(beforeExecute,afterExecute)給我們,我們繼承執行緒池,在執行任務前後做一些事情。
  4. 執行緒池原理關鍵技術:鎖(lock,cas)、阻塞佇列、hashSet(資源池)
執行緒池原理.png

最後希望對你理解執行緒池有幫助。

都看到這裡了,成神之路上,要不要一起?

微信公眾號rudy_tan_home

相關文章