SpringCloud微服務的那點事

在詳細的瞭解SpringCloud中所使用的各個元件之前，我們先了解下微服務框架的前世今生。

單體架構

在網站開發的前期，專案面臨的流量相對較少，單一應用可以實現我們所需要的功能，從而減少開發、部署和維護的難度。這種用於簡單的增刪改查的資料訪問框架（ORM）十分的重要。

垂直應用架構

當使用者訪問量不斷的提升，單一應用需要不斷的增加伺服器來應對，同時將單一的應用拆分成多個應用用來處理提升效率。這種用於加速Web前端載入的Web框架（MVC）起到了關鍵性的作用。

在這一階段往往會將系統分為不同的層級，每個層級有對應的職責，UI層負責和使用者進行互動、業務邏輯層負責具體的業務功能、資料庫層負責和上層進行資料交換和儲存。

在這一階段我們最常使用到的開發框架就是Spring（業務邏輯層管理POJO）+Struts（web層前置服務控制）+Hibernate（資料庫層持久化）。

服務化架構

伴隨著企業服務量的不斷提升，MVC框架的部署導致系統的負重越來越多，無法滿足併發的要求，系統間資料、報文的傳輸會出現頻繁的丟失。這時候我們需要考慮服務化的架構（SOA）。SOA表示面向服務的架構。將應用根據不同的職責劃分成不同的模組（類似於企業劃分不同的事業部），不同的模組使用特定的呼叫協議（RPC）和介面進行互動。

這樣使整個系統切分成很多單個元件服務來完成請求，當流量過大時通過水平擴充套件相應的元件來支撐，所有的元件通過互動來滿足整體的業務需求。

SOA服務化的優點是，它可以根據需求通過網路對鬆散耦合的粗粒度應用元件進行分散式部署、組合和使用。

服務層是SOA的基礎，可以直接被應用呼叫，從而有效控制系統中與軟體代理互動的人為依賴性。

服務化架構是一套鬆耦合的架構，服務的拆分原則是服務內部高內聚，服務之間低耦合。

在這個階段可以使用WebService或者dubbo來服務治理。

微服務架構

微服務架構算是SOA架構的一種擴充，主要關注的是服務個體的獨立性、拆分粒度更小。相對於SOA架構來說，微服務擁有以下優勢：

微服務強調更深層次的元件化和服務化，每個微服務都可以擁有獨立的執行空間，確保每一個服務元件可以作為單獨的產品進行釋出。

微服務拋棄了傳統SOA笨重的企業服務匯流排，對外發布強調使用HTTP REST API的介面釋出形式。

微服務的切分粒度大。

瞭解了架構的發展過程，我們來認識一下Spring Cloud。

Spring Cloud來源於Spring，利用Spring Boot進行快捷開發。由於目前Spring Cloud社群的維護和支援的人員數量眾多，相信Spring Cloud會有很好的發展。而且Spring Cloud基本上都是使用了現有的開源框架進行的整合，學習的難度和部署的門檻就比較低，對於中小型企業來說，更易於使用和落地。

Spring Cloud主要解決了什麼問題？

1、對於企業級的SOA框架來說，服務與服務間的解耦是一項巨大的難題，隨著功能服務的不斷增加，多服務間的相互呼叫頻繁，呼叫過程就像一個雜亂無章的毛線球，很容易導致牽一髮而動全身的情況，經常會由於在服務更新的過程中，沒有合理通訊，導致資料的丟失。

這時候就應該進行服務治理，將服務之間的直接依賴轉化為服務對服務中心的依賴。Spring Cloud 核心元件Eureka就是解決這類問題。

Eureka

Eureka是Netflix開源的一款提供服務註冊和發現的產品，它提供了完整的Service Registry和Service Discovery實現。也是Spring Cloud體系中最重要最核心的元件之一。

用大白話講，Eureka就是一個服務中心，將所有的可以提供的服務都註冊到它這裡來管理，其它各呼叫者需要的時候去註冊中心獲取，然後再進行呼叫，避免了服務之間的直接呼叫，方便後續的水平擴充套件、故障轉移等。如下圖：

當然服務中心這麼重要的元件一但掛掉將會影響全部服務，因此需要搭建Eureka叢集來保持高可用性，生產中建議最少兩臺。

隨著系統的流量不斷增加，需要根據情況來擴充套件某個服務，Eureka內部已經提供均衡負載的功能，只需要增加相應的服務端例項既可。

那麼在系統的執行期間某個例項掛了怎麼辦?Eureka內容有一個心跳檢測機制，如果某個例項在規定的時間內沒有進行通訊則會自動被剔除掉，避免了某個例項掛掉而影響服務。

因此使用了Eureka就自動具有了註冊中心、負載均衡、故障轉移的功能。

Hystrix

在微服務架構中通常會有多個服務層呼叫，基礎服務的故障可能會導致級聯故障，進而造成整個系統不可用的情況，這種現象被稱為服務雪崩效應。

服務雪崩效應是一種因“服務提供者”的不可用導致“服務消費者”的不可用,並將不可用逐漸放大的過程。

如下圖所示：A作為服務提供者，B為A的服務消費者，C和D是B的服務消費者。A不可用引起了B的不可用，並將不可用像滾雪球一樣放大到C和D時，雪崩效應就形成了。

在這種情況下就需要整個服務機構具有故障隔離的功能，避免某一個服務掛掉影響全域性。在Spring Cloud 中Hystrix元件就扮演這個角色。

Hystrix會在某個服務連續呼叫N次不響應的情況下，立即通知呼叫端呼叫失敗，避免呼叫端持續等待而影響了整體服務。Hystrix間隔時間會再次檢查此服務，如果服務恢復將繼續提供服務。

Hystrix Dashboard和Turbine

當熔斷髮生的時候需要迅速的響應來解決問題，避免故障進一步擴散，那麼對熔斷的監控就變得非常重要。

熔斷的監控現在有兩款工具：Hystrix-dashboard和Turbine

Hystrix-dashboard是一款針對Hystrix進行實時監控的工具，通過Hystrix Dashboard我們可以直觀地看到各Hystrix Command的請求響應時間, 請求成功率等資料。

但是隻使用Hystrix Dashboard的話, 你只能看到單個應用內的服務資訊, 這明顯不夠。

我們需要一個工具能讓我們彙總系統內多個服務的資料並顯示到Hystrix Dashboard上, 這個工具就是Turbine。

監控的效果圖如下：

想了解具體都監控了哪些指標，以及如何監控可以參考這篇文章：熔斷監控Hystrix Dashboard和Turbine

配置中心

隨著微服務不斷的增多，每個微服務都有自己對應的配置檔案。在研發過程中有測試環境、UAT環境、生產環境，因此每個微服務又對應至少三個不同環境的配置檔案。

這麼多的配置檔案，如果需要修改某個公共服務的配置資訊，如：快取、資料庫等，難免會產生混亂，這個時候就需要引入Spring Cloud另外一個元件：Spring Cloud Config。

Spring Cloud Config

Spring Cloud Config是一個解決分散式系統的配置管理方案。它包含了Client和Server兩個部分，Server提供配置檔案的儲存、以介面的形式將配置檔案的內容提供出去，Client通過介面獲取資料、並依據此資料初始化自己的應用。

其實就是Server端將所有的配置檔案服務化，需要配置檔案的服務例項去Config Server獲取對應的資料。將所有的配置檔案統一整理，避免了配置檔案碎片化。

如果服務執行期間改變配置檔案，服務是不會得到最新的配置資訊，需要解決這個問題就需要引入Refresh。它可以在服務的執行期間重新載入配置檔案。

當所有的配置檔案都儲存在配置中心的時候，配置中心就成為了一個非常重要的元件。

如果配置中心出現問題將會導致災難性的後果，因此在生產中建議對配置中心做叢集，來支援配置中心高可用性。

Spring Cloud Bus

上面的 Refresh 方案雖然可以解決單個微服務執行期間過載配置資訊的問題，但是在真正的實踐生產中，可能會有 N 多的服務需要更新配置。

如果每次依靠手動 Refresh 將是一個巨大的工作量，這時候 Spring Cloud 提出了另外一個解決方案：Spring Cloud Bus。

Spring Cloud Bus 通過輕量訊息代理連線各個分佈的節點。這會用在廣播狀態的變化(例如配置變化)或者其它的訊息指令中。

Spring Cloud Bus 的一個核心思想是通過分散式的啟動器對 Spring Boot 應用進行擴充套件，也可以用來建立一個或多個應用之間的通訊頻道。目前唯一實現的方式是用 AMQP 訊息代理作為通道。

Spring Cloud Bus 是輕量級的通訊元件，也可以用在其它類似的場景中。有了 Spring Cloud Bus 之後，當我們改變配置檔案提交到版本庫中時，會自動的觸發對應例項的Refresh，具體的工作流程如下：

服務閘道器

在微服務架構模式下，後端服務的例項數一般是動態的，對於客戶端而言很難發現動態改變的服務例項的訪問地址資訊。

因此在基於微服務的專案中為了簡化前端的呼叫邏輯，通常會引入API Gateway作為輕量級閘道器，同時API Gateway中也會實現相關的認證邏輯從而簡化內部服務之間相互呼叫的複雜度。

Spring Cloud體系中支援API Gateway落地的技術就是Zuul。Spring Cloud Zuul路由是微服務架構中不可或缺的一部分，提供動態路由，監控，彈性，安全等的邊緣服務。

Zuul是Netflix出品的一個基於JVM路由和服務端的負載均衡器。

它的具體作用就是服務轉發，接收並轉發所有內外部的客戶端呼叫。使用Zuul可以作為資源的統一訪問入口，同時也可以在閘道器做一些許可權校驗等類似的功能。

鏈路跟蹤

隨著服務的越來越多，對呼叫鏈的分析會越來越複雜，如服務之間的呼叫關係、某個請求對應的呼叫鏈、呼叫之間消費的時間等，對這些資訊進行監控就成為一個問題。

在實際的使用中我們需要監控服務和服務之間通訊的各項指標，這些資料將是我們改進系統架構的主要依據。

因此分散式的鏈路跟蹤就變的非常重要，Spring Cloud 也給出了具體的解決方案：Spring Cloud Sleuth和 Zipkin。

Spring Cloud Sleuth為服務之間呼叫提供鏈路追蹤。通過Sleuth可以很清楚的瞭解到一個服務請求經過了哪些服務，每個服務處理花費了多長時間。從而讓我們可以很方便的理清各微服務間的呼叫關係。

Zipkin是Twitter的一個開源專案，允許開發者收集Twitter 各個服務上的監控資料，並提供查詢介面。

總結

我們從整體上來看一下Spring Cloud各個元件如何來配套使用：

從上圖可以看出Spring Cloud各個元件相互配合，合作支援了一套完整的微服務架構。

其中Eureka負責服務的註冊與發現，很好將各服務連線起來

Hystrix 負責監控服務之間的呼叫情況，連續多次失敗進行熔斷保護。

Hystrix dashboard,Turbine 負責監控 Hystrix的熔斷情況，並給予圖形化的展示

Spring Cloud Config 提供了統一的配置中心服務

當配置檔案發生變化的時候，Spring Cloud Bus 負責通知各服務去獲取最新的配置資訊

所有對外的請求和服務，我們都通過Zuul來進行轉發，起到API閘道器的作用

最後我們使用Sleuth+Zipkin將所有的請求資料記錄下來，方便我們進行後續分析

Spring Cloud從設計之初就考慮了絕大多數網際網路公司架構演化所需的功能，如服務發現註冊、配置中心、訊息匯流排、負載均衡、斷路器、資料監控等。

這些功能都是以插拔的形式提供出來，方便我們系統架構演進的過程中，可以合理的選擇需要的元件進行整合，從而在架構演進的過程中會更加平滑、順利。

微服務架構是一種趨勢，Spring Cloud提供了標準化的、全站式的技術方案，意義可能會堪比當前Servlet規範的誕生，有效推進服務端軟體系統技術水平的進步。

歡迎工作一到五年的Java工程師朋友們加入Java架構開發：744677563

群內提供免費的Java架構學習資料（裡面有高可用、高併發、高效能及分散式、Jvm效能調優、Spring原始碼，MyBatis，Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多個知識點的架構資料）合理利用自己每一分每一秒的時間來學習提升自己，不要再用”沒有時間“來掩飾自己思想上的懶惰！趁年輕，使勁拼，給未來的自己一個交代！