京喜APP - 圖片庫最佳化

京東雲技術團隊發表於2023-05-11

作者:京東零售 何驍

介紹

京喜APP早期開發主要是快速原生化迭代替代原有H5,提高使用者體驗,在這期間也積累了不少效能問題。之後我們開始進行一些效能最佳化相關的工作,本文主要是介紹京喜圖片庫相關最佳化策略以及關於圖片相關的一些關聯知識。

圖片效能問題

作為電商APP,圖片在各個業務場景被大量使用。我們需要做到儘可能降低網路消耗/記憶體消耗/硬碟消耗,同時不降低圖片質量,提高圖片載入速度,給使用者帶來更好的使用體驗。基於這些效能目標,我們也透過初步效能評估梳理出了一些效能問題:

圖片載入慢/流量消耗高

圖片連結主要由後臺介面下發,下發圖片格式尺寸由每個業務後臺指定。部分業務沒有使用更小的圖片格式比如WebP,或圖片尺寸過大,都會使圖片過大導致網路消耗高。特別是網路狀況不佳的場景,圖片載入過慢給使用者帶來不好的體驗。同時也會導致更多的I/O讀寫解碼耗時,造成更多的電量消耗。

圖片記憶體佔用高

經過初步的APP記憶體使用評估,圖片記憶體消耗佔APP總記憶體消耗的比例最高,特別是大尺寸圖片會佔用很多記憶體。一方面APP佔用太高記憶體退到後臺容易被系統殺死,導致下次開啟重新啟動影響體驗。另一方面APP大量使用記憶體,容易被系統殺死產生OOM。特別是我們目前有大量的低端裝置使用者,裝置記憶體相對比較低。

最佳化方向

基於上面分析出的一些效能問題,我們對圖片框架進行了整體重構最佳化。一方面是降低圖片網路傳輸,提高圖片載入速度。另一方面是減少圖片記憶體消耗。

圖片最佳化.png

最小化網路傳輸

京東圖片伺服器提供了多種處理功能,例如圖片格式轉換,圖片降質,圖片縮放,圖片圓角等功能。這些功能透過在圖片URL中新增特定引數實現,圖片伺服器會根據引數設定提前將圖片處理完成並儲存到CDN伺服器。我們可以透過新增圖片處理引數,減少圖片傳輸大小。

雖然後臺可以提前進行URL預處理,下發已新增過圖片引數的圖片URL。但是由於對接後臺業務很多,每個業務圖片引數設定差異很大無法統一,而且可能會造成效能影響,例如沒有使用webP圖片格式,下發太大的圖片尺寸。同時考慮到推動各業務後臺修改成本也很高,並且前端機型多,不同機型需要使用不同的圖片尺寸。另外也不方便灰度降級功能,後續功能修改也不方便。所以在客戶端進行圖片URL預處理是更好的方式,可以統一控制,也方便之後功能更新。

圖片URL預處理

URL預處理

圖片庫在網路圖片載入前,檢測是否是京東域名的圖片URL。如果域名匹配,圖片框架先對圖片URL進行預處理,預處理包括域名統一新增縮放引數新增webP引數新增降質引數的方式減少圖片網路傳輸大小。

提示:因為後臺返回的圖片URL可能會帶有一部分圖片處理引數,例如https://img11.360buyimg.com/img/pingou-head/25.jpg!webp,直接追加圖片引數可能會導致圖片處理引數不生效,或格式錯誤導致載入失敗。所以轉換時會先將所有圖片引數提前計算出來,之後一起處理,避免新增重複引數。

域名統一

目前圖片伺服器提供了多個圖片域名可使用,例如m.360buyimg.comimg10.360buyimg.com等多個域名。m.360buyimg.com主要提供給移動端使用。但是由於對接了各種業務後臺,導致介面會下發不同的域名圖片。圖片使用不同域名可能會導致以下問題:

  • 不利於快取複用- 圖片框架通常預設以URL字串生成圖片快取key,不同域名導致生成不同的快取key硬碟快取無法複用會導致圖片重複下載,記憶體快取無法複用導致同樣的圖片佔用多份記憶體。
  • 不利於HTTP/2連線複用- 大部分介面圖片比較多,很多場景都會同時載入多張圖片,特別是首屏通常會載入幾十張圖片。當載入多個圖片時,每個域名都需要重新建立HTTPS連線,經歷DNS解析/TCP連線/TLS握手過程(目前一次HTTPS請求建立過程大概耗時50-150ms)。如果利用HTTP/2連結複用就只需要建立一次HTTPS請求,之後的圖片請求可以減少這部分的耗時。

所以在預處理時,如果是京東域名的圖片,將圖片URL域名統一替換為m.360buyimg.com

追加圖片引數

圖片縮放

很多業務後臺返回的原始圖片URLsize都比客戶端實際顯示的size要大。一方面導致使用更多的網路流量造成浪費。另一方面會導致佔用更多記憶體。同時因為圖片size和實際顯示size不一致導致畫素不對齊GPU需要做額外的插值處理,也會一定的影響渲染效能。所以我們透過新增縮放引數的方式,指定圖片伺服器下發更小和更匹配實際顯示size的圖片尺寸。

動態scale計算尺寸

因為iOS裝置主要使用2x/3x的解析度,所以業務方使用API時需要傳入對應的ptsize大小,圖片庫內部根據裝置的scale進行動態計算出真實的畫素寬高。

提示:android裝置因為螢幕差異比較大,更適合使用固定的scale。太多的圖片尺寸不利於CDN快取,無快取的時候需要對圖片進行相關引數處理,圖片處理本身是耗時操作。

Scale降級

  • 低端機降級- 對於部分3xscale的低端裝置,因為機器本身記憶體比較低,使用3x解析度計算出來的圖片畫素寬高比較大,會造成更多的記憶體消耗以及解碼/渲染更多的效能消耗。所以對於寬高超過一定要求的圖片,降級到使用2x解析度來計算畫素寬高,減少裝置效能消耗。
  • iPad降級- 因為目前APP並沒有針對iPad做特定最佳化,所以iPad裝置下預設是放大顯示。這會導致在iPad下圖片尺寸計算出來特別大。所以也是針對iPad圖片尺寸做了特定限制,防止下發圖片尺寸過大。
  • 大圖片降級- 正常情況下圖片寬/高不應該超過螢幕寬/高。為了防止部分業務使用過大的圖片size,所以新增了一個限制,最終生成的圖片畫素尺寸不能超過螢幕寬/高

降質

圖片伺服器支援0-100的圖片質量引數設定,透過降低圖片質量可以減少圖片大小,但是質量降低太多也會影響圖片的觀看體驗。我們將圖片質量引數設定為q70,指定圖片伺服器下發70%質量的圖片。對於大部分業務,一方面可以大幅減少圖片下載大小,同時也可以保證觀看體驗。透過新增圖片降質引數至少可以減少30-40%的圖片大小。

使用WebP

按照Google官方的資料,與PNG相比,WebP無損影像的位元組數要少26%WebP有損影像比同類JPG影像位元組數少25-34%。圖片伺服器支援轉換webP格式,可以減少圖片大小。針對png/jpg圖片格式,新增webP引數,指定圖片伺服器下發webp格式。雖然webP相比png/jpg圖片解碼需要更長時間,但相對網路傳輸速度提升還是很大。

提示:由於目前圖片伺服器並不支援GIFwebP,GIF並沒有做處理。

URL預處理快取

新增輕量快取,提高URL轉換效能。因為URL轉換本身有一定的耗時,而且單個圖片URL可能會多次載入/多次轉換。轉換後的URL會直接儲存到快取中,下次使用可以直接返回。快取keyURL+相關圖片轉換引數拼接組成。

圖片API設計

圖片處理引數透過options設定,預設使用q70圖片質量以及webP格式。業務方在呼叫載入圖片方法時傳入,下面是iOS端的API:

imageView6.jx.setImage(url: URL(string: "https://img11.360buyimg.com/img/pingou-head/25.jpg"), 
                       placeholder: nil, options: [.imageSize(CGSize(width: 40, height: 40))])


磁碟快取最佳化

圖片快取查詢最佳化

設定圖片不同的size引數會導致更多的圖片下載和磁碟快取,例如同樣一張圖片100px200px300px尺寸因為URL不同會下載3次,同時快取也無法不同。由於圖片庫通常預設使用URL作為圖片快取key,所以我們需要針對圖片快取key查詢圖片進行最佳化改造。簡單來講,相同的圖片小size的圖片可以直接複用更大size的快取,這樣當存在更大尺寸圖片時,可以避免圖片直接下載並且複用磁碟快取。

降低圖片記憶體消耗

png/jpg等圖片格式在顯示之前都需要經過解碼生成一張點陣圖,之後根據點陣圖建立紋理傳給GPU做渲染。一張點陣圖的記憶體消耗大概是畫素寬x畫素高x位深。通常圖片使用的是RGBA,位深為32位。一張500px_500px的大概1MB記憶體。對於GIF圖片因為本身有多幀,所以最終的記憶體消耗為單幀記憶體x幀數

我們的最佳化方向一方面是透過圖片縮放的方式,減少圖片點陣圖的記憶體消耗。另一方面限制圖片快取上限避免快取使用過高。

圖片縮放

透過上面URL預處理過程讓圖片伺服器下發更小的圖片格式,已經降低了一部分記憶體。但是URL預處理只處理了jd域名的jpg/png圖片,對於GIF京東域名外的圖片沒有處理,包括一部分URL轉換後載入失敗的圖片。所以對於這部分圖片,我們會在端側做圖片縮放的處理,降低記憶體消耗。例如一張300px_300px包含100幀的GIF圖片,實際顯示區域只有50px_50px,最佳化後總記憶體消耗可從30MB+記憶體降低到3MB

GIF動態幀率播放

之前根據線上監控資料發現,部分頁面場景偶爾會配置尺寸大/幀數多GIF圖片,導致記憶體佔用極高。例如一張500x400px播放200幀的GIF圖片會佔用100MB+記憶體消耗。所以針對這種場景,我們針對GIF做了減幀播放改造。當GIF圖片總記憶體消耗大於一定量級時(例如圖片記憶體快取上線的20%),將GIF播放的幀數適當減少,每一幀的播放時間增加,這樣可以將記憶體控制在一定範圍之內。

提示:這裡也可以透過 GIF 圖片快取 Buffer 控制記憶體總量,但是會導致更頻繁的解碼造成更多的 CPU 消耗。

圖片記憶體快取上限

圖片快取的設計目的是減少圖片解碼消耗。圖片第一次使用的時候,將圖片進行解碼後的點陣圖儲存在記憶體中,這樣可以避免下次使用時避免重複解碼。雖然圖片記憶體高可以儘量避免圖片重複解碼,但是佔用太高記憶體也會導致APP後臺被系統殺掉或產生OOM等問題。所以我們應該將記憶體快取控制在一定範圍內。

例如iOS的第三方圖片庫SDWebImage/Kingfisher預設都使用系統庫NSCache來實現記憶體快取。雖然NSCache會在裝置記憶體緊張時回收記憶體,但是預設並不限制可儲存記憶體最大位元組數,所以在裝置記憶體可用的情況下記憶體可以一直增加。所以透過設定圖片快取上限,防止圖片快取佔用太高記憶體。圖片快取定義了一個預設的初始值上限,之後對於3x大螢幕裝置和高階裝置(記憶體比較高),適當增加更多記憶體上限。

最佳化成果

圖片最佳化成果

其他收益

  • 域名統一- 減少了10%+的重複圖片下載和記憶體消耗。同時減少之前多域名圖片載入時重複建立HTTPS請求的過程,減少圖片載入時間。

其他策略

載入異常處理

因為少量圖片透過URL預處理轉換後,可能會存在圖片不存在的異常場景導致載入失敗。所以當發生圖片載入失敗時,我們還是需要載入原始圖片URL。但是這裡需要遮蔽一些特殊的載入錯誤,避免非必要的載入,例如無網路/網路超時/主動取消載入等錯誤。之後會將錯誤圖片URL上報到後臺,方便之後調整URL轉換策略,也可以發現一部分錯誤的圖片URL推動業務修改。同時將這部分連線加入到錯誤連線快取中,避免下次重複執行預處理和重複上報。

線上配置

目前存在的一些功能,例如URL預處理/統一域名/WebP使用等功能,都新增了線上配置,方便灰度/降級。一在出現問題時可以降級某些功能,新功能上線時也可以進行灰度測試。

大圖檢測

需要有一個機制及時發現圖片不符合規範的問題。一方面我們透過線上灰度檢測的方式,當發現大圖片時會進行上報,後續推動業務方進行最佳化。另一方面我們在日常測試階段,會開啟Debug檢測工具,當檢測到大圖片時,透過圖片翻轉/高亮背景顏色的方式提醒業務開發同學進行最佳化。

Flutter圖片庫最佳化

目前京喜APP有10+個二級介面是基於Flutter開發,所以我們也針對Flutter圖片載入做了一些最佳化。

對接原生圖片庫

因為Flutter框架自帶圖片庫只提供記憶體圖片快取,並不支援硬碟快取,所以會導致圖片重複下載。所以我們透過重寫ImageProvider,當載入網路圖片時,透過Channel呼叫原生圖片庫,原生圖片庫下載圖片到本地磁碟後,返回圖片檔案目錄。之後Flutter透過檔案目錄載入解碼圖片顯示。這樣一方面可以利用原生圖片庫相關最佳化能力,同時也可以複用圖片硬碟快取避免重複下載。

減少記憶體消耗

使用Image元件時,透過設定cacheHeight/cacheWidth,將圖片解碼為置頂畫素寬高的點陣圖尺寸,減少記憶體消耗。同時因為Flutter記憶體消耗相對原生更高,所以在Flutter介面關閉時,透過呼叫imageCache方法清除圖片記憶體消耗降低記憶體消耗。

GIF最佳化

  • 動畫最佳化- 因為通常使用Flutter都是混合棧的機制,原生Flutter介面在頁面導航中相互跳轉。所以當Flutter介面存在GIF圖片時,跳轉到原生以後GIF動畫還會一直執行。所以我們透過在Image元件內監聽Flutter engine傳送的生命週期通知,當Flutter介面不在棧頂時,停止GIF動畫執行,減少記憶體和CPU消耗。
  • 減少解碼次數- Flutter框架內部對GIF渲染的處理方式,在螢幕每一幀判斷當前需要顯示的GIF幀,之後對該GIF幀進行解碼之後渲染。因為並不會把解碼過的幀儲存,所以會導致頻繁解碼導致記憶體波動大。經過最佳化,對已經解碼過的幀進行儲存,避免重複解碼的消耗,同時避免記憶體的波動。

最佳化前記憶體波動很明顯
最佳化前
最佳化後記憶體傾於平穩
最佳化後
提示:儲存每一幀也會導致更多的記憶體消耗。目前APP中通常是小尺寸的GIF所以整體可控。可以考慮設定緩衝區上限來控制快取的圖片幀數避免記憶體過高。

後續最佳化方向

更優的快取演算法

  • 優先移除最大記憶體- iOS系統NSCache實現。透過設定最大記憶體數,當記憶體不足時優先移除最大的值。
  • LRU快取- 優先淘汰最久未使用的圖片記憶體。對於很多二級介面的場景,使用者開啟介面後並不會再次開啟。但是因為這些圖片快取是最後使用,所以清除記憶體時也會最後移除,但是在這種場景下就不太合適。
  • 介面棧管理- 當介面關閉時將該介面的所有的圖片記憶體移除,但是對於經常會開啟的介面會導致頻繁圖片編解碼也不太合適。

所以針對不同的業務場景使用不同的回收方式可能更加合適:

  • 對於購物車/我的訂單這類介面,使用者每次載入的圖片基本固定,所以更適合在記憶體中常駐,當記憶體消耗過高時再回收。
  • 對於商詳/搜尋商品列表這類介面,通常商品列表展示的圖片不一樣並且使用者也不會頻繁進某一個特定的商詳,所以更適合優先移除這部分的記憶體。
  • 對於部分彈窗功能,圖片顯示後並不會再次使用,可以考慮不新增到記憶體中。

使用更好的圖片格式

使用更好的圖片格式通常可以帶來更小的圖片位元組大小。同時因為壓縮率的提高,可以在減少大小的同時提高圖片質量。

提示:使用系統支援硬解碼的圖片格式更有優勢。硬解碼就是使用GPU進行解碼,相比使用CPU軟解碼效能更好更省電。

  • APNG/動畫WebP代替GIF- 按照Google官方的說法,GIF轉換為有損WebP的位元組數縮小了64%,而無損WebP位元組數縮小了19%。所以使用動畫WebP可以減少更多的網路流量傳輸。APNGMozilla推出的基於PNG的動圖格式並且完全支援RGBA,相比GIF可以減少20%+的圖片大小。而且GIF本身只支援256色索引顏色以及1位alpha(加上透明度後,邊緣會出現明顯的鋸齒),使用APNG/WebP也可以帶來相比GIF更好的顯示效果。

提示:相比GIFWebP的解碼比GIF佔用更多的CPU資源。有損WebP的解碼時間是GIF的2.2倍,而無損WebP的解碼時間是GIF的1.5倍。

  • HEIC-HEIC是基於H.265影片編碼格式推出的圖片格式。HEIC相比WebP可以減少20%+的圖片大小,並且編解碼效能更好。在系統相容性上,Android 9.0以上的系統支援HEIC。蘋果在iOS14以上系統才提供了WebP硬解碼,之前的系統只能使用軟解碼,而HEICiOS11之後的機器上都已經支援硬解碼,不過並不支援瀏覽器
  • AVIF-AVIF是基於AV1編碼格式推出的圖片格式。AVIF相比WebP可以減少30%+的圖片大小。不過目前只有Android 12以上的版本支援。

提示:這裡主要是以VP8編碼格式的WebPVP9編碼格式的WebP整體效能和HEIC差異不大。
不過這些圖片格式需要圖片伺服器支援之後才能使用。

Flutter

雖然我們對Flutter圖片庫做了一些最佳化,但總體上還有很多最佳化空間。包括業界有在使用的基於紋理的圖片方案。在原生側將圖片解碼後,透過Flutter引擎建立紋理。之後講圖片紋理id傳遞給Flutter進行渲染。這樣可以統一在原生側管理圖片記憶體快取,最佳化之前Flutter原生都分別有一份記憶體快取的方式。而且針對於混合棧的導航棧方式,也可以更好的進行圖片記憶體回收。另外針對Flutter,需要提供更靈活的圖片記憶體回收策略,避免記憶體消耗過高。

提示:紋理可以複用記憶體中的點陣圖快取,所以並不會導致更多的記憶體佔用。紋理方式大概能減少30%的記憶體消耗相比Flutter引擎圖片庫,主要是一些其他物件使用導致。

最佳化H5圖片載入

我們可以透過攔截WebView圖片載入的方式,讓原生圖片庫來下載圖片之後傳遞圖片二進位制資料給WebView顯示。

減少流量消耗

透過這種方式,我們可以將原生圖片庫URL預處理相關功能支援到H5圖片,減少H5載入過程中圖片流量消耗,提高圖片載入速度。同時因為APP原生WebView圖片快取機制是相互獨立的,所以透過統一在原生側管理圖片快取,可以減少相同圖片的重複下載。

支援更多圖片格式

例如在iOS系統上,WKWebView目前只支援PNG/JPG/GIF圖片格式。所以我們可以透過在原生端實現下載WebP/HEIC圖片,之後對圖片進行解碼再傳給WebView,這樣就可以支援其他圖片格式的顯示。

提示:因為WebView不支援直接傳遞點陣圖二進位制資料顯示,所以需要提前轉換為PNG/JPG二進位制資料傳遞。所以對於其他圖片格式增加一次PNG/JPG編碼過程會造成更多的效能消耗。不過對於Android系統應該可以在web核心層最佳化減少這塊消耗。

總結

本文並沒有講底層圖片載入庫的具體實現,目前圖片庫不管是直接用第三方庫還是自研圖片庫實現方式通常差異不大。我們更多是關注自身業務以及如何利用圖片伺服器能力最大化改善網路圖片載入效能。所以部分策略可能不一定針對所有APP都合適,應該針對自身業務場景仔細評估最佳化方案。

擴充套件連結

相關文章