執行緒是程式設計師進階的一道重要門檻。對於移動開發者來說,“將耗時的任務放到子執行緒去執行,以保證UI執行緒的流暢性”是執行緒程式設計的第一金科玉律,但這條鐵則往往也是UI執行緒不怎麼流暢的主因。我們在督促自己更多的使用執行緒的同時,還需要時刻提醒自己怎麼避免執行緒失控。除了瞭解各類開執行緒的API之外,更需要理解執行緒本身到底是個什麼樣的存在,並行是否真的高效?系統是怎麼樣去排程執行緒的?開執行緒的方式那麼多,什麼樣的姿勢才正確?
多執行緒程式設計之所以複雜原因之一在於其並行的特性,人腦的工作方式更符合單執行緒序列的特點。一個接著一個的處理任務是大腦最舒服的狀態,頻繁的在任務之間切換會產生“頭痛”這類系統異常。人腦的多工和計算機的多工效能差異太大導致我們在設計並行的業務邏輯之時,很容易犯錯。
另一個複雜點在於執行緒所帶來的副作用,這些副作用包括但不限於:多執行緒資料安全,死鎖,記憶體消耗,物件的生命週期管理,UI的卡頓等。每一個新開的執行緒就像扔進湖面的石子,在你忽視的遠處產生漣漪。
把抽象的東西具像化是我們認知世界的主要方式。執行緒作為作業系統世界的“公民”之一,是如何被排程獲取到CPU和記憶體資源的,又怎麼樣去和其他“公民”互通有無進而實現效益最大化?把這些實體和行為具像到大腦,像作業系統一樣開“上帝視角”,才能正確掌控執行緒這頭強大的野獸。
程式優先順序(Process Priority)
執行緒寄宿在程式當中,執行緒的生命週期直接被程式所影響,而程式的存活又和其優先順序直接相關。在處理程式優先順序的時候,大部分人靠直覺都能知道前臺程式(Foreground Process)優先順序要高於後臺程式(Background Process)。但這種粗糙的劃分無法滿足作業系統高精度排程的需求。無論Android還是iOS,系統對於Foreground,Background程式有進一步的細化。
Foreground Process
Foreground一般意味著使用者雙眼可見,可見卻不一定是active。在Android的世界裡,一個Activity處於前臺之時,如果能採集使用者的input事件,就可以判定為active,如果中途彈出一個Dialog,Dialog變成新的active實體,直接面對使用者的操作。被部分遮擋的activity儘管依然可見,但狀態卻變為inactive。不能正確的區分visible和active是很多初級程式設計師會犯的錯誤。
Background Process
後臺程式同樣有更細的劃分。所謂的Background可以理解為不可見(invisible)。對於不可見的任務,Android也有重要性的區分。重要的後臺任務定義為Service,如果一個程式包含Service(稱為Service Process),那麼在“重要性”上就會被系統區別對待,其優先順序自然會高於不包含Service的程式(稱為Background Process),最後還剩一類空程式(Empty Process)。Empty Process初看有些費解,一個Process如果什麼都不做,還有什麼存在的必要。其實Empty Process並不Empty,還存在不少的記憶體佔用。
在iOS的世界裡,Memory被分為Clean Memory和Dirty Memory,Clean Memory是App啟動被載入到記憶體之後原始佔用的那一部分記憶體,一般包括初始的stack, heap, text, data等segment,Dirty Memory是由於使用者操作所改變的那部分記憶體,也就是App的狀態值。系統在出現Low Memory Warning的時候會首先清掉Dirty Memory,對於使用者來說,操作的進度就全部丟失了,即使再次點選App圖示,也是一切從頭開始。但由於Clean Memory沒有被清除,避免了從磁碟重新讀取app資料的io損耗,啟動會變快。這也是為什麼很多人會感覺手機重啟後,app開啟的速度都比較慢。
同理Android世界當中的Empty Process還儲存有App相關的Clean Memory,這部分Memory對於提升App的啟動速度大有幫助。顯而易見Empty Process的優先順序是最低的。
綜上所述,我們可以把Android世界的Process按優先順序分為如下幾類:
程式的優先順序從高到低依次分為五類,越往下,在記憶體緊張的時候越有可能被系統殺掉。簡而言之,越是容易被使用者感知到的程式,其優先順序必定更高。
執行緒排程(Thread Scheduling)
Android系統基於精簡過後的linux核心,其執行緒的排程受時間片輪轉和優先順序控制等諸多因素影響。不少初學者會認為某個執行緒分配到的time slice多少是按照其優先順序與其它執行緒優先順序對比所決定的,這並不完全正確。
Linux系統的排程器在分配time slice的時候,採用的CFS(completely fair scheduler)策略。這種策略不但會參考單個執行緒的優先順序,還會追蹤每個執行緒已經獲取到的time slice數量,如果高優先順序的執行緒已經執行了很長時間,但低優先順序的執行緒一直在等待,後續系統會保證低優先順序的執行緒也能獲取更多的CPU時間。顯然使用這種排程策略的話,優先順序高的執行緒並不一定能在爭取time slice上有絕對的優勢,所以Android系統線上程排程上使用了cgroups的概念,cgroups能更好的凸顯某些執行緒的重要性,使得優先順序更高的執行緒明確的獲取到更多的time slice。
Android將執行緒分為多個group,其中兩類group尤其重要。一類是default group,UI執行緒屬於這一類。另一類是background group,工作執行緒應該歸屬到這一類。background group當中所有的執行緒加起來總共也只能分配到5~10%的time slice,剩下的全部分配給default group,這樣設計顯然能保證UI執行緒繪製UI的流暢性。
有不少人吐槽Android系統之所以不如iOS流暢,是因為UI執行緒的優先順序和普通工作執行緒一致導致的。這其實是個誤會,Android的設計者實際上提供了background group的概念來降低工作執行緒的CPU資源消耗,只不過與iOS不同的是,Android開發者需要顯式的將工作執行緒歸於background group。
1 2 3 4 5 6 |
new Thread(new Runnable() { @Override public void run() { Process.setThreadPriority(Process.THREAD_PRIORITY_BACKGROUND); } }).start(); |
所以在我們決定新啟一個執行緒執行任務的時候,首先要問自己這個任務在完成時間上是否重要到要和UI執行緒爭奪CPU資源。如果不是,降低執行緒優先順序將其歸於background group,如果是,則需要進一步的profile看這個執行緒是否造成UI執行緒的卡頓。
雖說Android系統在任務排程上是以執行緒為基礎單位,設定單個thread的優先順序也可以改變其所屬的control groups,從而影響CPU time slice的分配。但程式的屬性變化也會影響到執行緒的排程,當一個App進入後臺的時候,該App所屬的整個程式都將進入background group,以確保處於foreground,使用者可見的新程式能獲取到儘可能多的CPU資源。用adb可以檢視不同程式的當前排程策略。
1 |
$ adb shell ps -P |
當你的App重新被使用者切換到前臺的時候,程式當中所屬的執行緒又會迴歸的原來的group。在這些使用者頻繁切換的過程當中,thread的優先順序並不會發生變化,但系統在time slice的分配上卻在不停的調整。
是否真的需要新執行緒?
開執行緒並不是提升App效能,解決UI卡頓的萬金油。每一個新啟的執行緒會消耗至少64KB的記憶體,系統在不同的執行緒之間switch context也會帶來額外的開銷。如果隨意開啟新執行緒,隨著業務的膨脹,很容易在App執行的某個時間點發現幾十個執行緒同時在執行。後果是原本想解決UI流暢性,卻反而導致了偶現的不可控的卡頓。
移動端App新啟執行緒一般都是為了保證UI的流暢性,增加App使用者操作的響應度。但是否需要將任務放入工作執行緒需要先了解任務的瓶頸在哪,是i/o,gpu還是cpu?UI出現卡頓並不一定是UI執行緒出現了費時的計算,有可能是其它原因,比如layout層級太深。
儘量重用已有的工作執行緒(使用執行緒池)可以避免出現大量同時活躍的執行緒,比如對HTTP請求設定最大併發數。或者將任務放入某個序列的佇列(HandlerThread)按順序執行,工作執行緒任務佇列適合處理大量耗時較短的任務,避免出現單個任務阻塞整個佇列的情況。
用什麼姿勢開執行緒?
new Thread()
這是Android系統裡開執行緒最簡單的方式,也只能應用於最簡單的場景,簡單的好處卻伴隨不少的隱患。
1 2 3 4 5 6 |
new Thread(new Runnable() { @Override public void run() { } }).start(); |
這種方式僅僅是起動了一個新的執行緒,沒有任務的概念,不能做狀態的管理。start之後,run當中的程式碼就一定會執行到底,無法中途取消。
Runnable作為匿名內部類還持有了外部類的引用,線上程退出之前,該引用會一直存在,阻礙外部類物件被GC回收,在一段時間內造成記憶體洩漏。
沒有執行緒切換的介面,要傳遞處理結果到UI執行緒的話,需要寫額外的執行緒切換程式碼。
如果從UI執行緒啟動,則該執行緒優先順序預設為Default,歸於default cgroup,會平等的和UI執行緒爭奪CPU資源。這一點尤其需要注意,在對UI效能要求高的場景下要記得
1 |
Process.setThreadPriority(Process.THREAD_PRIORITY_BACKGROUND); |
雖說處於background group的執行緒總共只能爭取到5~10%的CPU資源,但這對絕大部分的後臺任務處理都綽綽有餘了,1ms和10ms對使用者來說,都是快到無法感知,所以我們一般都偏向於在background group當中執行工作執行緒任務。
AsyncTask
一個典型的AsyncTask實現如下:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 |
public class MyAsyncTask extends AsyncTask { @Override protected Object doInBackground(Object[] params) { return null; } @Override protected void onPreExecute() { super.onPreExecute(); } @Override protected void onPostExecute(Object o) { super.onPostExecute(o); } } |
和使用Thread()不同的是,多了幾處API回撥來嚴格規範工作執行緒與UI執行緒之間的互動。我們大部分的業務場景幾乎都符合這種規範,比如去磁碟讀取圖片,縮放處理需要在工作執行緒執行,最後繪製到ImageView控制元件需要切換到UI執行緒。
AsyncTask的幾處回撥都給了我們機會去中斷任務,在任務狀態的管理上較之Thread()方式更為靈活。值得注意的是AsyncTask的cancel()方法並不會終止任務的執行,開發者需要自己去檢查cancel的狀態值來決定是否中止任務。
AsyncTask也有隱式的持有外部類物件引用的問題,需要特別注意防止出現意外的記憶體洩漏。
AsyncTask由於在不同的系統版本上序列與並行的執行行為不一致,被不少開發者所詬病,這確實是硬傷,絕大部分的多執行緒場景都需要明確任務是序列還是並行。
執行緒優先順序為background,對UI執行緒的執行影響極小。
HandlerThread
在需要對多工做更精細控制,執行緒切換更頻繁的場景之下,Thread()和AsyncTask都會顯得力不從心。HandlerThread卻能勝任這些需求甚至更多。
HandlerThread將Handler,Thread,Looper,MessageQueue幾個概念相結合。Handler是執行緒對外的介面,所有新的message或者runnable都通過handler post到工作執行緒。Looper在MessageQueue取到新的任務就切換到工作執行緒去執行。不同的post方法可以讓我們對任務做精細的控制,什麼時候執行,執行的順序都可以控制。HandlerThread最大的優勢在於引入MessageQueue概念,可以進行多工佇列管理。
HandlerThread背後只有一個執行緒,所以任務是序列執行的。序列相對於並行來說更安全,各任務之間不會存在多執行緒安全問題。
HandlerThread所產生的執行緒會一直存活,Looper會在該執行緒中持續的檢查MessageQueue。這一點和Thread(),AsyncTask都不同,thread例項的重用可以避免執行緒相關的物件的頻繁重建和銷燬。
HandlerThread較之Thread(),AsyncTask需要寫更多的程式碼,但在實用性,靈活度,安全性上都有更好的表現。
ThreadPoolExecutor
Thread(),AsyncTask適合處理單個任務的場景,HandlerThread適合序列處理多工的場景。當需要並行的處理多工之時,ThreadPoolExecutor是更好的選擇。
1 2 3 |
public static Executor THREAD_POOL_EXECUTOR = new ThreadPoolExecutor(CORE_POOL_SIZE, MAXIMUM_POOL_SIZE, KEEP_ALIVE, TimeUnit.SECONDS, sPoolWorkQueue, sThreadFactory); |
執行緒池可以避免執行緒的頻繁建立和銷燬,顯然效能更好,但執行緒池併發的特性往往也是疑難雜症的源頭,是程式碼降級和失控的開始。多執行緒並行導致的bug往往是偶現的,不方便除錯,一旦出現就會耗掉大量的開發精力。
ThreadPool較之HandlerThread在處理多工上有更高的靈活性,但也帶來了更大的複雜度和不確定性。
IntentService
不得不說Android在API設計上粒度很細,同一樣工作可以通過各種不同的類來完成。IntentService又是另一種開工作執行緒的方式,從名字就可以看出這個工作執行緒會帶有service的屬性。和AsyncTask不同,沒有和UI執行緒的互動,也不像HandlerThread的工作執行緒會一直存活。IntentService背後其實也有一個HandlerThread來序列的處理Message Queue,從IntentService的onCreate方法可以看出:
1 2 3 4 5 6 7 8 9 10 11 12 13 |
@Override public void onCreate() { // TODO: It would be nice to have an option to hold a partial wakelock // during processing, and to have a static startService(Context, Intent) // method that would launch the service & hand off a wakelock. super.onCreate(); HandlerThread thread = new HandlerThread("IntentService[" + mName + "]"); thread.start(); mServiceLooper = thread.getLooper(); mServiceHandler = new ServiceHandler(mServiceLooper); } |
只不過在所有的Message處理完畢之後,工作執行緒會自動結束。所以可以把IntentService看做是Service和HandlerThread的結合體,適合需要在工作執行緒處理UI無關任務的場景。
結束語
Android開執行緒的方式雖然五花八門,但歸根到底最後還是對映到linux下的pthread,業務的設計還是脫不了和執行緒相關的基礎概念範疇:執行緒的執行順序,排程策略,生命週期,序列還是並行,同步還是非同步等等。摸清楚各類API下執行緒的行為特點,在設計具體業務的執行緒模型的時候自然輕車熟路了,執行緒模型的設計要有整個app視角的廣度,切忌各業務模組各玩各的。
打賞支援我寫出更多好文章,謝謝!
打賞作者
打賞支援我寫出更多好文章,謝謝!