程式執行,其本質上,是對系統資源(CPU、記憶體、磁碟、網路等等)的使用。如何高效的使用這些資源是我們程式設計優化演進的一個方向。今天說的執行緒池是對CPU的利用的優化手段。
網上有不少介紹如何使用執行緒池的文章,那我想說點什麼呢?我希望檢視執行緒池原理,明白池化技術的基本設計思路。遇到其他相似問題可以解決。
池化技術
何為池化技術,簡單點來說,就是提前儲存大量的資源,以備不時之需。在資源有限的情況下,該技術可以大大提升資源的利用率,提升效能等。
目前比較典型的池化技術有: 執行緒池、連線池、記憶體池、物件池等。
本文主要來介紹一下其中比較簡單的執行緒池的實現原理,希望讀者們可以舉一反三,通過對執行緒池的理解,學習並掌握所有的程式設計中池化技術的底層原理,一通百通。
建立一個執行緒
在java的併發程式設計中,執行緒是十分重要的,在Java中,建立一個執行緒比較簡單:
public class App {
public static void main(String[] args) throws Exception {
new Thread(new Runnable() {
@Override
public void run() {
System.out.println("執行緒執行中");
}
}).start();
}
}
複製程式碼
我們通過建立一個執行緒物件,並且實現Runnable介面就可以實現一個簡單的執行緒。可以利用上多核CPU。當一個任務結束,當前執行緒就結束。
但很多時候,我們不止會執行一個任務。如果每次都是如此的建立執行緒->執行任務->銷燬執行緒,會造成很大的效能開銷的。
那能否一個執行緒建立後,執行完一個任務後,又去執行另一個任務,而不是銷燬。這就是執行緒池。
這就是池化技術的思想,通過預先建立好多個執行緒,放在池中,這樣可以在需要使用執行緒的時候直接獲取,避免多次重複建立、銷燬代理的開銷。
執行緒池的簡單使用
以下程式碼,就是在java中建立執行緒池:
import java.util.concurrent.*;
public class App {
public static void main(String[] args) throws Exception {
ExecutorService executorService = new ThreadPoolExecutor(1, 1,
60L, TimeUnit.SECONDS,
new ArrayBlockingQueue<>(10));
executorService.execute(new Runnable() {
@Override
public void run() {
System.out.println("abcdefg");
}
});
executorService.shutdown();
}
}
複製程式碼
JDK提供給外部的介面也很簡單。直接呼叫ThreadPoolExecutor構造一個就可以了,也可以通過Executors靜態工廠構建,但一般不建議。
可以看到,開發者想要在程式碼中使用執行緒池還是比較簡單的,這得益於Java給我們封裝好了一系列的API。很多時候,我們需要知道這些API後面幹了些啥,以便於我們更好的設計與實現我們的程式碼。
執行緒池建構函式
通常,一般建構函式會反映出這個工具或這個物件的資料儲存結構。
如果把執行緒池比作一個公司。公司會有正式員工處理正常業務,如果工作量大的話,會僱傭外包人員來工作。閒時就可以釋放外包人員以減少公司管理開銷。一個公司因為成本關係,僱傭的人員始終是有最大數。如果這時候還有任務處理不過來,就走需求池排任務。
- acc : 獲取呼叫上下文
- corePoolSize: 核心執行緒數量,可以類比正式員工數量,常駐執行緒數量。
- maximumPoolSize: 最大的執行緒數量,公司最多僱傭員工數量。常駐+臨時執行緒數量。
- workQueue:多餘任務等待佇列,再多的人都處理不過來了,需要等著,在這個地方等。
- keepAliveTime:非核心執行緒空閒時間,就是外包人員等了多久,如果還沒有活幹,解僱了。
- threadFactory: 建立執行緒的工廠,在這個地方可以統一處理建立的執行緒的屬性。每個公司對員工的要求不一樣,恩,在這裡設定員工的屬性。
- handler:執行緒池拒絕策略,什麼意思呢?就是當任務實在是太多,人也不夠,需求池也排滿了,還有任務咋辦?預設是不處理,丟擲異常告訴任務提交者,我這忙不過來了。
新增一個任務
核心模組用紅框標記了。- 第一個紅框:判斷工作的執行緒數有沒有超過最大核心執行緒數量,如果沒有超過新鎮新的worker執行緒。並且推出。
- 第二個紅框:判斷執行緒池是否在執行,如果在,任務佇列是否允許插入,插入成功再次驗證執行緒池是否執行,如果不再執行,移除插入的任務,然後丟擲拒絕策略。如果再執行,沒有執行緒了,就啟用一個執行緒。
- 第三個紅框:如果新增非核心執行緒失敗,就直接拒絕了。
這裡邏輯稍微有點複雜,畫了個流程圖僅供參考
接下來,我們看看如何新增一個工作執行緒的? addWork
新增worker執行緒
這裡程式碼有點長,沒關係,也是分塊的,總共有5個關鍵的程式碼塊。- 第一個紅框:做是否能夠新增工作執行緒條件過濾。
- 判斷執行緒池狀態,如果執行緒池已經關了,就不提交任務了。
- 第二個紅框:做自旋,更新建立執行緒數量。
- 第一個紅框:獲取執行緒池主鎖。
- 第二個紅框:新增執行緒到workers中(執行緒池中)。
- 第三個紅框:啟動新建的執行緒。 這樣就應該清晰很多了。
有人或許會疑問 retry 是什麼?這個是java中的goto語法。只能運用在break和continue後面。
接下來,我們看看works是什麼。
一個hashSet。 到這來就完成了一個任務的提交。當一個執行緒完成了首次任務的執行,後續如何處理其他的請求的呢?worker執行緒處理佇列任務
- 第一個紅框:是否是第一次執行任務,或者從佇列中可以獲取到任務。
- 第二個紅框:獲取到任務後,執行任務開始前操作鉤子。
- 第三個紅框:執行任務。
- 第四個紅框:執行任務後鉤子。
這兩個鉤子(beforeExecute,afterExecute)允許我們自己繼承執行緒池,做任務執行前後處理。有意思。 到這裡,原始碼分析到此為止。接下來做一下簡單的總結。
總結
- 所謂執行緒池本質是一個hashSet。多餘的任務會放在阻塞佇列中。
- 只有當阻塞佇列滿了後,才會觸發非核心執行緒的建立。所以非核心執行緒只是臨時過來打雜的。直到空閒了,然後自己關閉了。
- 執行緒池提供了兩個鉤子(beforeExecute,afterExecute)給我們,我們繼承執行緒池,在執行任務前後做一些事情。
- 執行緒池原理關鍵技術:鎖(lock,cas)、阻塞佇列、hashSet(資源池)
最後希望對你理解執行緒池有幫助。
都看到這裡了,成神之路上,要不要一起?