iOS 程式設計中 throttle 的那些事

MrPeak雜貨鋪發表於2017-01-09

不知道大家對throttle這個單詞是否看著眼熟,還是說對這個計算機基礎概念有很清晰的瞭解了。今天就來聊聊和throttle相關的一些技術場景。

定義

我經常有一種感覺,對於英語這門語言的語感,會影響我們對於一些關鍵技術概念的理解。有時候在學習新技術知識的時候,我會先花一些時間去了解術語英文單詞的各種語義,在形成強烈清晰的語感之後,再去深入具體的技術語境。throttle也算是個生僻的單詞,至少在口語中畢竟少用到,先來看看詞義:

a device controlling the flow of fuel or power to an engine.

中文翻譯是節流器,一種控制流量的裝置。對應到我們計算機世界,可以理解成,一種控制資料或者事件流量大小的機制。這麼說可能還是有些抽象,再來看看一些具體的技術場景加深理解。

場景一:GCD Background Queue

話說GCD幾乎是iOS面試的必問題,也是個送分題:)。

我一般會機械式的先問:GCD有哪幾種Queue?回答:序列Queue和並行Queue。

我繼續問:Global Queue有哪幾種優先順序?回答:有幾種吧,大概記得Default,Low,High吧。

我雙眉一挑,進一步試探:不知道少俠有沒有研究過DISPATCH_QUEUE_PRIORITY_BACKGROUND作何用?問完立即豎起耳朵,殷殷期盼縈繞於心的關鍵字。如果能聽到「I/O Throttle 呀!」,我會瞬間覺得面試氣氛被點亮了。

當然啦,答不出I/O Throttle並不能說明技術不紮實,但能答出來,至少表明對待技術是有好奇心的,加分!

官方文件如是說:

Items dispatched to the queue run at background priority; the queue is scheduled for execution after all high priority queues have been scheduled and the system runs items on a thread whose priority is set for background status. Such a thread has the lowest priority and any disk I/O is throttled to minimize the impact on the system.

那Disk I/O Throttle做什麼用呢?按照上面這段描述,Disk I/O會impact system performance。

理解Disk I/O的影響需要補充一些大學課本上的知識。一次磁碟讀寫操作涉及到的硬體資源主要有兩個,CPU和磁碟。任務本身由CPU觸發和排程,讀操作發生時,CPU告知Disk去獲取某個地址的資料,此時由於Disk的讀操作存在定址延遲,CPU是處於I/O wait狀態,一直維持到Disk返回資料為止。處於I/O wait狀態的CPU,此時並不能把這部分等待的時間用來處理其他任務,也就是說這一段等待的CPU時間被“浪費”了。而CPU是公共的系統資源,這部分資源的損耗自然會對系統的整體表現產生負面影響。即使Global Queue使用的是子執行緒,也會造成CPU資源的消耗。

如果把任務的Priority調整為DISPATCH_QUEUE_PRIORITY_BACKGROUND,那麼這些任務中的I/O操作就被被控制,雖然具體的控制策略並沒有官方文件描述(一種可能的策略是併發的Disk I/O變為序列的),但我們能確認的是,部分I/O操作的啟動時間很有可能被適當延遲,把更多的CPU資源騰出來處理其他任務(比如說一些系統資源的排程任務),這樣可以讓我們的系統更加穩定高效。簡而言之,對於重度磁碟I/O依賴的後臺任務,如果對實時性要求不高,放到DISPATCH_QUEUE_PRIORITY_BACKGROUND Queue中是個好習慣,對系統更友好。

實際上I/O Throttle還分為好幾種,有Disk I/O Throttle,Memory I/O Throttle,和Network I/O Throttle。語義類似只不過場景不同,繼續往下看。

場景二:ASIHttpRequest Network Throttle

早幾年讀ASIHttpRequest原始碼的時候,讀到過一段有意思的程式碼:

- (void)handleNetworkEvent:(CFStreamEventType)type
{
	//...
    [self performThrottling];
	//...
}

在AFNetworking中也有類似的程式碼:

/**
 Throttles request bandwidth by limiting the packet size and adding a delay for each chunk read from the upload stream.

 When uploading over a 3G or EDGE connection, requests may fail with "request body stream exhausted". Setting a maximum packet size and delay according to the recommended values (`kAFUploadStream3GSuggestedPacketSize` and `kAFUploadStream3GSuggestedDelay`) lowers the risk of the input stream exceeding its allocated bandwidth. Unfortunately, there is no definite way to distinguish between a 3G, EDGE, or LTE connection over `NSURLConnection`. As such, it is not recommended that you throttle bandwidth based solely on network reachability. Instead, you should consider checking for the "request body stream exhausted" in a failure block, and then retrying the request with throttled bandwidth.

 @param numberOfBytes Maximum packet size, in number of bytes. The default packet size for an input stream is 16kb.
 @param delay Duration of delay each time a packet is read. By default, no delay is set.
 */
- (void)throttleBandwidthWithPacketSize:(NSUInteger)numberOfBytes
                                  delay:(NSTimeInterval)delay;

原諒我貼了一大段註釋,這段英文描述對於加深我們對於一些網路行為的理解很有幫助。

這些知名的第三方網路框架都有對Newtork Throttle的支援,你可能會好奇,我們為什麼要對自己發出的網路請求做流量控制,難道不應該儘可能最大限度的利用頻寬嗎?

此處需要科普一點TCP協議相關的知識。我們通過HTTP請求傳送資料的時候,實際上資料是以Packet的形式存在於一個Send Buffer中的,應用層平時感知不到這個Buffer的存在。TCP提供可靠的傳輸,在弱網環境下,一個Packet一次傳輸失敗的概率會升高,即使一次失敗,TCP並不會馬上認為請求失敗了,而是會繼續重試一段時間,同時TCP還保證Packet的有序傳輸,意味著前面的Packet如果不被ack,後面的Packet就會繼續等待,如果我們一次往Send Buffer中寫入大量的資料,那麼在弱網環境下,排在後面的Packet失敗的概率會變高,也就意味著我們HTTP請求失敗的機率會變大,類似這樣:

大部分時候在應用層寫程式碼的時候,估計不少同學都意識不到Newtork Throttle這種機制的存在,在弱網環境下(丟包率高,頻寬低,延遲高)一些HTTP請求(比如上傳圖片或者日誌檔案)失敗率會激增,有些朋友會覺得這個我們也沒辦法,畢竟網路辣麼差。其實,作為有追求的工程師,我們可以多做一點點,而且弱網下請求的成功率其實是個很值得深入研究的方向。針對弱網場景,我們可以啟用Newtork Throttle機制,減小我們一次往Send Buffer中寫入的資料量,或者延遲某些請求的傳送時間,這樣所有的請求在弱網環境下,都能「耐心一點,多等一會」,請求成功率自然也就適當提高啦。

那麼,再看AFNetworking中的這個函式,是不是更能理解了呢?

- (void)throttleBandwidthWithPacketSize:(NSUInteger)numberOfBytes
                                  delay:(NSTimeInterval)delay;

Network Throttle體現了一句至理名言「慢即是快」。

場景三:Event Frequency Control

不知道大家在寫UI的時候,有沒有遇到過使用者快速連續點選UIButton,產生多次Touch事件回撥的場景。以前機器還沒那麼快的時候,我在用一些App的時候,時不時會遇到偶爾卡頓,多次點選一個Button,重複Push同一個Controller。有些工程師會在Button的點選事件裡記錄一個timestamp,然後判斷每次點選的時間間隔,間隔過短就忽略,這也不失為一種解決辦法。

再後來學習RxSwift的時候,看到:

button.rx_tap
   .throttle(0.5, MainScheduler.instance)
   .subscribeNext { _ in 
      print("Hello World")
   }
   .addDisposableTo(disposeBag)

終於有了優雅的書寫方式。發現沒有,throttle又出現了,這裡throttle控制的是什麼呢?不是disk讀寫,也不是network buffer,而是事件,把事件本身抽象成了一種Data,控制這種資料的流量或者產生頻率,就解決了上面我們所說重複點選按鈕的問題,so easy。

總結

當然還會有更多的場景,throttle其實是個基礎的計算機知識。理解throttle相關的技術概念,需要在不同場景下去抽象出一個flow被節流的畫面。現在,如果讓你來解釋一些具體的技術場景下,throttle是怎麼回事,是不是可以信手拈來了: )

相關文章