關於大型網站技術演進的思考(十二)--網站靜態化處理—快取(4)
上篇我補充了下SSI的知識,SSI是一個十分常見的技術,記得多年前我看到很多入口網站頁面的字尾是.shtml,那麼這就說明很多入口網站都曾經使用過SSI技術,其實現在搜狐網站也還在用shtml,如下圖所示:
由此可見SSI在網際網路的應用還是非常廣泛的。其實網際網路很多網頁如果我們按照動靜分離策略拆分,絕大部分都是可以當做靜態資源處理,例如新聞網站,文學網站,這些網頁生成後,大部分的資源都是不變的,說白了這些網頁本質就是一個靜態頁面,我們開發他們時候也不需要服務端的參入,每一個網站都有自己固定的板式,假如每個新網頁都要完完整整的開發,重複性的工作實在太多了,出錯的概率也非常高,在本系列第二篇裡我曾經詳細介紹了velocity的佈局模板技術,其實SSI也可以製作出一套固定的模板,開發時候我們只需要在定義好的模板裡新增或者修改我們需要更改的內容就可以完成一個頁面的製作,可見SSI技術為了我們開發網頁提供了很大的便利。
與SSI相對應的還有ESI,這個技術不是太常用,在網上能收集到的資料也不是太多,網上有限的資料也基本都是和淘寶相關的,不過仔細研究下淘寶對ESI的運用,對於理解網站靜態化處理是非常有借鑑意義的,下面我將重點講講ESI的知識。首先看個場景啊。
我們登入支付寶網站,到了個人首頁我們發現在支付寶下面有一個條目,如下圖所示:
這是支付寶預設給我們顯示的【生活好助手】,右邊有個箭頭,我們點開它,如下圖所示:
我們看到這裡有新增的按鈕,通過新增按鈕,我們可以新增其他常用的元件圖示。(注意:我這裡只是以支付寶這個功能為例,支付寶是否按照我說的設計,這個我就不清楚了)
如果我們按照自己個性化新增了自己的元件,不同的人新增的常用元件也會是不盡相同的,如果我們自己開發的網站也有這樣的功能,那麼我們該如何設計了?我們一般都會很直觀的把這個新增的元件資訊儲存在資料庫裡,使用者每次登入時候該資訊也會隨之從資料庫裡讀取,但是這個場景對於像支付寶這種使用者量極大,日均訪問量極高的大型網站,這種個性化又非核心的功能都從資料庫裡讀取,那麼它對資料庫造成的壓力一定是十分巨大的,在儲存的瓶頸裡我們講了那麼多優化資料庫的手段,其核心手段有一個就是減少對資料庫價值不高的操作,而這種個性化配置跟支付寶的支付操作相比起來,價值度實在太低,因此我們最好的選擇是避免資料庫承擔過多此類的操作。
不過像上面這個場景裡的功能,它所使用的資料又不是那種可有可無的,假如資料儲存的不可靠造成資料丟失還是會造成不必要的麻煩,所以我們還是會把這些資訊做持久化儲存。此外像上面的【生活好助手】條目還是頁面的一個重要組成部分,因此像SSI那種使用html註釋指令,當指令無法正常解析,就直接返回到瀏覽器,因為是註釋,所以頁面也不會顯示它,SSI的這種做法用在上面場景肯定是不太合適的。這樣的場景在電商網站裡是十分常見的,例如一個商品頁面,頁面裡會有商品的圖片,還有商品的詳細介紹,這些內容其實都是會用持久化系統進行儲存,同時它們本身也是網頁的重要做成部分,如果碰到問題就忽略最終會造成頁面顯示錯誤。
結合上面的場景我們來討論下ESI技術了,ESI技術和SSI技術類似,其實也和jsp裡的include指令類似,它也是在頁面裡使用一個指令標籤web容器解析這個標籤後將獲取的資料替換掉這個標籤。我們來看看ESI的使用方法,我們可以在velocity裡自定義一個esi標籤,velocity裡的使用如下所示:
esiTool.setTemplate('test.vm').addQueryData('id', 100)
velocity引擎解析vm模板,最終會把vm解析成html頁面,這個時候該頁面裡使用esi標籤的地方就被轉化為:
<esi:include src="test.vm.esi?id=100" />
當頁面到了服務端web容器之前的靜態web容器(該web容器要安裝好解析esi的模組),靜態web容器就會解析這個esi標籤,靜態web容器會以test.vm.esi?id=100 作為key,到快取系統裡查詢資訊,如果查到了資訊,快取伺服器就直接返回,用返回內容替換掉esi標籤,如果快取裡沒有找到則會直接請求持久化系統,持久化系統返回資訊後,快取系統將資訊快取起來,同時也將資訊返回至靜態web容器,那麼下次使用者再訪問同樣內容就會直接從快取裡讀取了。
ESI技術和SSI很像,只不過ESI技術是和快取技術配合起來的,同時ESI標籤也不像SSI標籤那樣使用註釋的形式,因此ESI標籤是一定要被解析的,如果僅僅是快取,ESI和SSI比較起來也沒顯得那麼有優勢和特別,但是對於電商這種場景而言ESI的現實意義非常大,電商網站也是一個由使用者產生內容的網站,每一個商家的店鋪雖然我們都知道它是屬於淘寶或天貓的,但是單獨一個商家的店鋪都是個性化很強的,與其他店鋪差異很大,為了買賣商品,商家會上傳自己商品的圖片,還會使用圖片和文字描述自己的商品,單個商品頁面我們做動靜分離分析,很容易分辨出動態內容和靜態內容,但是如果一個電商平臺擁有超乎想象數量的商家,那麼每個頁面的圖片,文字和商家頁面的關係就會變得有點微妙了。由於電商網站的圖片特別多,那麼電商網站系統一般都會設計一套管理這些小圖片的分散式儲存系統,例如淘寶的TFS檔案系統,它是專門針對圖片使用的分散式檔案系統,這些檔案系統裡儲存的圖片會和商家緊密關聯,這就讓圖片本身擁有了一定的動態屬性,但是對於每個商家頁面而言,商家自己的圖片資源都是可以靜態化的,也就是說圖片的讀取是要通過商家資訊進行計算的,計算出的結果對於商家而言又是靜態的,可以被快取的。但是這個靜態資源的處理時候就變得複雜了,而這些是SSI無法完成的。
首先我們直接從檔案系統讀取圖片,效率是非常低效,因此我們還是會把它們快取在記憶體裡,但是由於不同圖片和不同商戶是相關聯,那麼對於快取查詢時候是需要一定的條件,不同商戶對自己頁面的設計方案也會有所不同,一般商戶這些資源,儲存系統肯定會按照設計模板的維度儲存,不同商家由於商品和文化的不一樣,那麼使用的模板也不一樣,因此資源返回靜態web容器前還需要一個整合過程,這樣場景下的靜態資源獲取其實是需要一定邏輯計算的,那麼這個計算一般都會在開發時候由程式碼完成,所以從上面ESI使用的例子看到,開發人員會使用velocity的esi標籤,這個標籤開發人員可以設定引數,velocity引擎最終會將這個標籤解析成靜態web容器可以解析的esi標籤,標籤裡有這樣的程式碼test.vm.esi?id=100,檔案後面會帶上引數,那麼這個引數其實是動態的,那麼這個引數也就是快取系統獲取正確資訊的規則了。這樣我們就完成了靜態資源獲取的邏輯計算,計算完畢後這些資源會在一段時間裡長期有效,因此它就演變為靜態資源,可以被快取了。ESI比SSI強大多了,同時ESI也可以完成SSI的功能,所以使用了ESI也就沒必要用SSI了。
像我們平時做web開發時候可能沒有太留心一個問題,一般的web開發裡使用的靜態資源例如圖片,css檔案,js檔案我們都會放置在一個resource包裡,如果是企業開發,這個web應用上線時候也就直接打包在web工程裡,一些網際網路網站也只不過會將這些資源放置在單獨的靜態伺服器上,我平時開發時常聽到有人說,專案裡圖片太多了,應該合併下,css檔案和js檔案也太多了也要合併下,這個多到底多多少了,幾十個檔案,幾百個檔案,這個要和社交網站,電商網站這種使用者可以產生圖片的網站比起來那就是小巫見大巫了,因為使用者能產生內容的網站靜態資源會隨著時間推移檔案規模變得異乎尋常的大,所以此類網站的靜態資源已經沒法放置在專案下,它就要求我們需要有新的手段管理這些靜態資源,並且有新的手段使用這些靜態資源,那麼像TFS檔案儲存系統出現了,快取技術出現了,最後我們在應用裡使用ESI技術把它們整合到我們網頁裡,通過這個分析我們就能明白ESI適用的業務場景了。
網站靜態化處理我們首先要按規則拆分動靜資源,拆分出來的靜態資源該如何處理就是網站靜態化處理的關鍵所在,把靜態資源處理從服務端的web應用裡剝離出來,不讓服務端的web應用參入過多的靜態資源解析,這樣就可以為服務端的web應用減少不必要的處理操作,從而達到提升服務端web應用的執行效率,接著我們就把拆分出來的靜態資源處理操作往前推移到靜態web伺服器,前兩篇文章和今天的文章我著重講解了靜態web伺服器處理靜態資源的手段,那麼這裡有個問題了,這些處理可以再往前推到瀏覽器來完成嗎?答案當然是否定的,首先瀏覽器的快取是非常不可靠的,如果使用者把瀏覽器設定為不快取任何資料的模式,那麼瀏覽器就沒法快取資料了,而使用者的行為那是根本沒法控制的,其次瀏覽器快取的資料量是有限的,如果我們要在瀏覽器進行快取也是快取最有價值快取的資料,更重要的一點,為了做好網站靜態化處理我們對網頁的動靜資源做了拆分,但是拆分出的靜態資源也並不是完全不需要進行任何邏輯處理就能使用的,例如前面講到的ESI適用的場景我們就發現,有些靜態資源的獲取還是要很多條件的參入,而這些條件是由動態資料產生的,那麼這樣的靜態資料瀏覽器是沒法做快取的,這點也說明了拆分出來的靜態化資源絕大部分還是要停留在服務端的,居然只能停留在服務端,那麼最為高效的處理這些靜態資源的地方就是CDN和靜態web容器了。所以在本系列的第一篇裡我講到網站生產部署時候最好是在服務端web應用之前放置一個靜態web容器,如果有了這樣的靜態web容器做反向代理,那麼我們就可以讓它來完成靜態資源的相關操作,而且靜態web容器還能輔助完成一些邏輯上的處理,從而彌補了CDN的不足之處。當然這麼做的好處不僅僅只有這些,第二篇文章裡我曾經討論了反向代理的好處,可能大家印象還不是很深刻,我將會在後面文章裡對反向代理做更加深入的分析。
講完了ESI的妙用後,我下面將講講本篇的主題快取了。其實單獨講快取真的沒啥太多內容,不過在網站靜態化處理裡的快取還是和儲存裡講到的分散式快取有所不同,分散式快取的資料都是儲存在記憶體裡,而網站靜態處理的快取既有儲存在記憶體裡還有儲存在硬碟上,當然儲存在記憶體裡讀取速度會更快,但是網站的讀取效率還和資源距離使用者的遠近有關係,例如瀏覽器的快取其實是把靜態內容快取在硬碟上,但是因為不需要通過網路獲取資源,因此它的讀取效率就顯得特別高了,除了這個因素外還有個因素,我們前面做動靜拆分的目的就是想拆分出靜態資源,讓這些靜態資源遠離服務端的web應用,這樣可以減少服務端不必要的壓力,從而達到提升服務端web應用處理能力,而把靜態資源放置在靜態web容器處理,它的處理靜態資源效率又會高於在服務端web應用的處理,從而也達到提升靜態資源讀取的效率。不過如果靜態資源最終只能放置在服務端,那麼這個時候我們把靜態資源存入到快取裡即記憶體裡效率肯定比在硬碟上高,所以CDN的服務節點一般都是採取將靜態資源儲存在記憶體裡,就算是服務端web應用前的靜態web容器,如果我們讓靜態資源快取在記憶體裡,效率肯定也是比在硬碟上高。
相關文件:
關於大型網站技術演進的思考(一)--儲存的瓶頸(1)
關於大型網站技術演進的思考(二)--儲存的瓶頸(2)
關於大型網站技術演進的思考(三)--儲存的瓶頸(3)
關於大型網站技術演進的思考(四)--儲存的瓶頸(4)
關於大型網站技術演進的思考(五)--儲存的瓶頸(5)
關於大型網站技術演進的思考(六)--儲存的瓶頸(6)
關於大型網站技術演進的思考(七)--儲存的瓶頸(7)
關於大型網站技術演進的思考(八)--儲存的瓶頸終篇(8)
關於大型網站技術演進的思考(九)--網站靜態化處理--總述(1)
關於大型網站技術演進的思考(十)--網站靜態化處理—動靜整合方案(2)
關於大型網站技術演進的思考(十一)--網站靜態化處理—動靜分離策略(3)
關於大型網站技術演進的思考(十二)--網站靜態化處理—快取(4)
關於大型網站技術演進的思考(十三)--網站靜態化處理—CSI(5)
關於大型網站技術演進的思考(十四)--網站靜態化處理—前後端分離—上(6)
關於大型網站技術演進的思考(十五)--網站靜態化處理—前後端分離—中(7)
關於大型網站技術演進的思考(十六)--網站靜態化處理—前後端分離—下(8)
關於大型網站技術演進的思考(十七)--網站靜態化處理—滿足靜態化的前後端分離(9)
關於大型網站技術演進的思考(十八)--網站靜態化處理—反向代理(10)
關於大型網站技術演進的思考(十九)--網站靜態化處理—web前端優化—上(11)
關於大型網站技術演進的思考(二十)--網站靜態化處理—web前端優化—中(12)
關於大型網站技術演進的思考(二十一)--網站靜態化處理—web前端優化—下【終篇】(13)
相關文章
- 關於大型網站技術演進的思考(十三)--網站靜態化處理—CSI(5)網站
- 關於大型網站技術演進的思考(十八):網站靜態化處理—反向代理(10)網站
- 關於大型網站技術演進的思考(十八)--網站靜態化處理—反向代理(10)網站
- 關於大型網站技術演進的思考(九)--網站靜態化處理--總述(1)網站
- 關於大型網站技術演進的思考(十)--網站靜態化處理—動靜整合方案(2)網站
- 關於大型網站技術演進的思考(十一)--網站靜態化處理—動靜分離策略(3)網站
- 關於大型網站技術演進的思考(二十):網站靜態化處理—web前端優化—中(12)網站Web前端優化
- 關於大型網站技術演進的思考(十九):網站靜態化處理—Web前端優化—上(11)網站Web前端優化
- 關於大型網站技術演進的思考(十九)--網站靜態化處理—web前端優化—上(11)網站Web前端優化
- 關於大型網站技術演進的思考(二十)--網站靜態化處理—web前端優化—中(12)網站Web前端優化
- 關於大型網站技術演進的思考(十六)--網站靜態化處理—前後端分離—下(8)網站後端
- 關於大型網站技術演進的思考(十五)--網站靜態化處理—前後端分離—中(7)網站後端
- 關於大型網站技術演進的思考(十四)--網站靜態化處理—前後端分離—上(6)網站後端
- 關於大型網站技術演進的思考(二十一):網站靜態化處理—Web前端優化(下)(13)網站Web前端優化
- 關於大型網站技術演進的思考(十七):網站靜態化處理—滿足靜態化的前後端分離(9)網站後端
- 關於大型網站技術演進的思考(十七)--網站靜態化處理—滿足靜態化的前後端分離(9)網站後端
- 關於大型網站技術演進的思考(二十一)--網站靜態化處理—web前端優化—下【終篇】(13)網站Web前端優化
- 關於大型網站技術演進的思考(四)--儲存的瓶頸(4)網站
- 關於大型網站技術演進的思考(二)--儲存的瓶頸(2)網站
- 關於大型網站技術演進的思考(一)--儲存的瓶頸(1)網站
- 關於大型網站技術演進的思考(三):儲存的瓶頸(3)網站
- 關於大型網站技術演進的思考(一)—儲存的瓶頸(1)網站
- 關於大型網站技術演進的思考(六)--儲存的瓶頸(6)網站
- 關於大型網站技術演進的思考(五)--儲存的瓶頸(5)網站
- 關於大型網站技術演進的思考(三)--儲存的瓶頸(3)網站
- 關於大型網站技術演進的思考(二):儲存的瓶頸(2)網站
- 關於大型網站技術演進的思考(一):儲存的瓶頸(1)網站
- 關於大型網站技術演進的思考(八):儲存的瓶頸(8)網站
- 關於大型網站技術演進的思考(七):儲存的瓶頸(7)網站
- 關於大型網站技術演進的思考(七)--儲存的瓶頸(7)網站
- 大型網站技術架構的演進網站架構
- 關於大型網站技術演進的思考(八)--儲存的瓶頸終篇(8)網站
- 大型網站架構改進歷程(9):網站靜態化處理–總述(1)網站架構
- 大型網站的技術架構演進過程網站架構
- 大型網站技術架構(二)--大型網站架構演化網站架構
- 大型網站技術架構(一)--大型網站架構演化網站架構
- 網站靜態化思想網站
- 頁面靜態化技術演進