服務遷移之路 | Spring Cloud向Service Mesh轉變

博雲技術社群發表於2019-05-20

 

一、導讀

Spring Cloud基於Spring Boot開發,提供一套完整的微服務解決方案,具體包括服務註冊與發現,配置中心,全鏈路監控,API閘道器,熔斷器,遠端呼叫框架,工具客戶端等選項中立的開源元件,並且可以根據需求對部分元件進行擴充套件和替換。

 

Service Mesh,這裡以Istio(目前Service Mesh具體落地實現的一種,且呼聲最高)為例簡要說明其功能。 Istio 有助於降低這些部署的複雜性,並減輕開發團隊的壓力。它是一個完全開源的服務網格,可以透明地分層到現有的分散式應用程式上。它也是一個平臺,包括允許它整合到任何日誌記錄平臺、遙測或策略系統的 API。Istio的多樣化功能集使你能夠成功高效地執行分散式微服務架構,並提供保護、連線和監控微服務的統一方法。

 

從上面的簡單介紹中,我們可以看出為什麼會存在要把Spring Cloud體系的應用遷移到Service Mesh這樣的需求,總結下來,有四方面的原因:

 

1、功能重疊

來簡單看一下他們的功能對比:

 

功能列表Spring CloudIsito

服務註冊與發現

支援,基於Eureka,consul等元件,提供server,和Client管理

支援,基於XDS介面獲取服務資訊,並依賴“虛擬服務路由表”實現服務發現

鏈路監控

支援,基於Zikpin或者Pinpoint或者Skywalking實現

支援,基於sideCar代理模型,記錄網路請求資訊實現

API閘道器

支援,基於zuul或者spring-cloud-gateway實現

支援,基於Ingress gateway以及egress實現

熔斷器

支援,基於Hystrix實現

支援,基於宣告配置檔案,最終轉化成路由規則實現

服務路由

支援,基於閘道器層實現路由轉發

支援,基於iptables規則實現

安全策略

支援,基於spring-security元件實現,包括認證,鑑權等,支援通訊加密

支援,基於RBAC的許可權模型,依賴Kubernetes實現,同時支援通訊加密

配置中心

支援,springcloud-config元件實現

不支援

效能監控

支援,基於Spring cloud提供的監控元件收集資料,對接第三方的監控資料儲存

支援,基於SideCar代理,記錄服務呼叫效能資料,並通過metrics adapter,匯入第三方資料監控工具

日誌收集

支援,提供client,對接第三方日誌系統,例如ELK

支援,基於SideCar代理,記錄日誌資訊,並通過log adapter,匯入第三方日誌系統

工具客戶端整合

支援,提供訊息,匯流排,部署管道,資料處理等多種工具客戶端SDK

不支援

分散式事務

支援,支援不同的分散式事務模式:JTA,TCC,SAGA等,並且提供實現的SDK框架

不支援

其他

……

……

 

從上面表格中可以看到,如果從功能層面考慮,Spring Cloud與Service Mesh在服務治理場景下,有相當大量的重疊功能,從這個層面而言,為Spring Cloud向Service Mesh遷移提供了一種潛在的可能性。

 

2、服務容器化

在行業當前環境下,還有一個趨勢,或者說是現狀。越來越多的應用走在了通往應用容器化的道路上,或者在未來,容器化會成為應用部署的標準形態。而且無論哪種容器化執行環境,都天然支撐服務註冊發現這一基本要求,這就導致Spring Cloud體系應用上容器的過程中,存在一定的功能重疊,有可能為後期的應用運維帶來一定的影響,而Service Mesh恰恰需要依賴容器執行環境,同時彌補了容器環境所欠缺的內容(後續會具體分析)。

 

3、術業有專攻

從軟體設計角度出發,我們一直在追求鬆耦合的架構,也希望做到領域專攻。例如業務開發人員希望我只要關心業務邏輯即可,不需要關心鏈路跟蹤,熔斷,服務註冊發現等支撐工具的服務;而平臺支撐開發人員,則希望我的程式碼中不要包含任何業務相關的內容。而Service Mesh的出現,讓這種情況成為可能。

 

4、語言壁壘

目前而言Spring Cloud雖然提供了對眾多協議的支援,但是受限於Java技術體系。這就要求應用需要在同一種語言下進行開發(這不一定是壞事兒),在某種情況下,不一定適用於一些工作場景。而從微服務設計考慮,不應該受限於某種語言,各個服務應該能夠相互獨立,大家需要的是遵循通訊規範即可。而Service Mesh恰好可以消除服務間的語言壁壘,同時實現服務治理的能力。

 

基於以上四點原因,當下環境,除了部分大多已經提前走在了Service Mesh實踐的道路上網際網路大廠以外(例如螞蟻金服的SOFASTACK),也有大部分企業已經開始接觸Service Mesh,並且嘗試把Spring Cloud構建的應用,遷移到Service Mesh中。

 

 

二、Spring Cloud向Service Mesh的遷移方案

 

Spring Cloud向Service Mesh遷移,從我們考慮而言大體分為七個步驟,如圖所示:

 

 

1. Spring Cloud架構解析

Spring Cloud架構解析的目的在於確定需要從當前的服務中去除與Service Mesh重疊的功能,為後續服務替換做準備。我們來看一個典型的Spring Cloud架構體系,如圖所示:

 

 

從圖中我們可以簡要的分析出,一個基於Spring Cloud的微服務架構,主要包括四部分內容:服務閘道器,應用服務,外圍支撐元件,服務管理控制檯。

 

  • 服務閘道器

    服務閘道器涵蓋的功能包括路由,鑑權,限流,熔斷,降級等對入站請求的統一攔截處理。具體可以進一步劃分為外部閘道器(面向網際網路)和內部閘道器(面向服務內部管理)。

 

  • 應用服務

    應用服務是企業業務核心。應用服務內部由三部分內容構成:業務邏輯實現,外部元件互動SDK整合,服務內部執行監控整合。

 

  • 外圍支撐元件
    外圍支撐元件,涵蓋了應用服務依賴的工具,包括註冊中心,配置中心,訊息中心,安全中心,日誌中心等。

     

  • 服務管理控制檯
    服務管理控制檯面向服務運維或者運營人員,實現對應用服務執行狀態的實時監控,以及根據情況需要能夠動態玩成線上服務的管理和配置。

 

這裡面哪些內容是我們可以拿掉或者說基於Service Mesh(以Istio為例)能力去做的?分析下來,可以替換的元件包括閘道器(gateway或者Zuul,由Ingress gateway或者egress替換),熔斷器(hystrix,由SideCar替換),註冊中心(Eureka及Eureka client,由Polit,SideCar替換),負責均衡(Ribbon,由SideCar替換),鏈路跟蹤及其客戶端(Pinpoint及Pinpoint client,由SideCar及Mixer替換)。這是我們在Spring Cloud解析中需要完成的目標:即確定需要刪除或者替換的支撐模組。

 

2. 服務改造

服務單元改造的目的在於基於第一步的解析結果,完成依賴去除或者依賴替換。根據第一步的分析結果服務單元改造分為三步:

  1. 刪除元件,包括閘道器,熔斷器,註冊中心,負載均衡,鏈路跟蹤元件,同時刪除對應client的SDK;

  2. 替換元件,採用httpClient 的SDK支援http協議的遠端呼叫(原來在Ribbon中),由原來基於註冊中心的呼叫,轉變成http直接呼叫;

  3. 配置資訊變更,修改與刪除元件管理的配置資訊以及必要的元件互動程式碼(根據實際應用情況操作);

當然服務單元改造過程中,還會涉及到很多的細節問題,都需要根據應用特點進行處理,這裡不做深入分析。

 

3. 服務容器化

服務容器化是目前應用部署的趨勢所在。服務容器化本身有很多不同的方式,例如基於Jenkins的pipeline實現,基於docker-maven-plugin + dockerfile實現,當然還有很多不同的方式。這裡以Spring Cloud一個demo服務通過docker-maven-plugin+dockerfile實現說明為例:

 

簡易的一個服務的Dockerfile如下所示:

 

ROM openjdk:8-jre-alpine
ENV TZ=Asia/Shanghai \
    SPRING_OUTPUT_ANSI_ENABLED=ALWAYS \
    JAVA_OPTS="" \
    JHIPSTER_SLEEP=0
RUN ln -snf /usr/share/zoneinfo/$TZ /etc/localtime && echo $TZ > /etc/timezone
CMD echo "The application will start in ${JHIPSTER_SLEEP}s..." && \
    sleep ${JHIPSTER_SLEEP} && \
    java ${JAVA_OPTS} -Djava.security.egd=file:/dev/./urandom -jar /app.jar
    # java ${JAVA_OPTS} -Djava.security.egd=environment:/dev/./urandom -jar /app.@project.packaging@

EXPOSE 8080
ADD microservice-demo.jar /app.jar

 

檔案中定義了服務埠以及執行命令。

 

Maven-docker-plugin的外掛配置如下所示:

 

<build>
    <finalName>microservice-demo</finalName>
    <plugins>
        ......
        <plugin>
            <groupId>com.spotify</groupId>
            <artifactId>docker-maven-plugin</artifactId>
            <version>1.2.0</version>
            <executions>
                <execution>
                    <id>build-image</id>
                    <phase>package</phase>
                    <goals>
                        <goal>build</goal>
                    </goals>
                </execution>
                <execution>
                    <id>tag-image</id>
                    <phase>package</phase>
                    <goals>
                        <goal>tag</goal>
                    </goals>
                    <configuration>
                        <image>${project.build.finalName}:${project.version}</image>
                        <newName>${docker.registry.name}/${project.build.finalName}:${project.version}</newName>
                    </configuration>
                </execution>
                <!--暫時不新增推送倉庫的配置-->
            </executions>
            <configuration>
                <dockerDirectory>${project.basedir}/src/main/docker</dockerDirectory>
                <imageName>${project.build.finalName}:${project.version}</imageName>
                <resources>
                    <resource>
                        <targetPath>/</targetPath>
                        <directory>${project.build.directory}</directory>
                        <include>${project.build.finalName}.${project.packaging}</include>
                    </resource>
                </resources>
            </configuration>
        </plugin>
    </plugins>
</build>

 

通過增加docker-maven-plugin,在執行mvn package的時候可以載入Dockerfile,自動構建服務的容器映象(需要說明的前提是本地安裝docker執行環境,或者通過環境變數在開發工具中配置Docker的遠端連線環境),從而完成服務容器化改造。

 

4. 容器環境構建

容器環境決定這Service Mesh的部署形態,這裡不詳細描述容器環境的部署過程。感興趣的朋友,可以參考https://github.com/easzlab/kubeasz 開源專案,提供了Kubernetes基於ansible的自動化部署指令碼。我們也建議選擇Kubernetes來構建容器環境。這裡說明容器環境構建的考慮因素:

 

· 叢集部署方案
叢集部署方案主要考慮多叢集,跨資料中心,儲存選擇,網路方案,叢集內部主機標籤劃分,叢集內部網路地址規劃等多方面因素。

 

· 叢集規模
叢集規模主要考慮etcd叢集大小,叢集內執行例項規模(用來配置ip範圍段),叢集高可用節點規模等因素。


基於以上兩點來考慮容器化環境的部署方案,關鍵是合理規劃,避免資源浪費。

 

5. Service Mesh環境構建

Service Mesh環境構建依賴於容器環境構建,主要考慮兩個方面,以Isito為例:

 

· 部署外掛
Istio部署外掛需要根據需要的場景,考慮採用的外掛完整性,例如prometheus,kiali,是否開啟TLS等,具體安裝選項可以參考https://preliminary.istio.io/zh/docs/reference/config/installation-options/。

 

· 跨叢集部署
依據容器環境考慮是否需要支援Isito的跨叢集部署方案.

 

6. 服務注入

服務注入用於將容器化的服務接入到Service Mesh的平臺中,目前主要有兩種方式。以Isito為例說明,主要包括自動注入和手動入住。選擇手動注入的目的在於可以根據企業內部上線流程,對服務接入進行人為控制。而自動注入則能夠更加快捷,方便。到此實際上已經完成服務遷移工作。

 

7. 服務管理控制檯

由於Service Mesh目前而言,多是基於宣告式的配置檔案,達到服務治理的效果,因此無法實時傳遞執行結果。基於這種原因,需要一個獨立的Service Mesh的管理控制檯,一方面能夠檢視各個服務的執行狀態以及策略執行情況,另外一方面能夠支援服務執行過程中策略的動態配置管理。目前而言,可以在Isito安裝過程中選擇kiali作為一個控制檯實現,當然未來也會有大量的企業提供專門的服務。

 

通過以上七個步驟,能夠在一定程度上幫助企業應用,從Spring Cloud遷移到Service Mesh上,但遷移過程中必然存在不斷踩坑的過程,需要根據應用特點,事前做好評估規劃。

 

 

三、遷移優缺點分析

 

Spring Cloud遷移到Service Mesh是不是百利而無一害呢?

 

首先,從容器化的環境出發,後續Knative,Kubernetes,Service Mesh必然會構建出一套相對完整的容器化PaaS解決方案,從而完成容器化PaaS支撐平臺的構建。Service Mesh將為容器執行態提供保駕護航的作用。


其次,就目前Service Mesh的落地實現而言,對於一些特定需求的監測粒度有所欠缺,例如呼叫執行緒棧的監測(當然,從網路層考慮,或者不在Service Mesh的考慮範圍之內),但是恰恰在很多服務治理場景的要求範圍之中。我們也需要針對這種情況,考慮實現方案。

 

最後,大家一直詬病的效能和安全問題。目前已經有所加強,但是依然被吐槽。

 

整體而言,Spring Cloud是微服務實現服務治理平臺的現狀,而Service Mesh卻是未來,當然也不能完全取而代之,畢竟設計思路和側重點不同,是否遷移需要根據業務場景而定。

 

相關文章