一、背景
- 身為Java程式設計師,微服務是必須要掌握的一種架構。Spring Cloud作為提供微服務架構的完整技術生態鏈,給我們提供了非常多的框架與元件。其中的重要成員Spring Cloud Netflix也形成了一系列的技術棧:包括服務註冊與發現(Eureka),斷路器(Hystrix),智慧路由(Zuul)和客戶端負載平衡(Ribbon)等。
- 但不幸的是Spring Cloud Netflix的技術棧相繼宣佈進行維護階段:
二、初識Spring Cloud Alibaba
- 做為國內網際網路大廠的阿里巴巴,在開源領域的成就有目共睹。
- 2016 年,阿里全面擁抱 Spring Boot;
- 2017 年 12 月,Spring Cloud Alibaba 立項並順利進入 Spring Cloud 孵化器。
- 2019 月 10 月 3 日,Spring Cloud Alibaba 正式 "掛牌" Spring 官方。
關於Spring Cloud Alibaba的孵化過程具體可參考:《Spring Cloud Alibaba 從孵化到 "掛牌" 之旅》
同 Spring Cloud 一樣,Spring Cloud Alibaba 也是一套微服務解決方案,包含開發分散式應用微服務的必需元件,方便開發者通過 Spring Cloud 程式設計模型輕鬆使用這些元件來開發分散式應用服務。
(圖片來源:阿里云云棲號)
- 做為微服務生態圈中冉冉升起的一顆新星,我們有理由去了解並掌握Spring Cloud Alibaba的各個技術棧。本文也將通過專案工程演練的方式對Spring Cloud Alibaba中的服務治理元件Nacos與高可用防護元件Sentinel進行基礎實踐。
三、Nacos的基礎實踐
- 在2018年 6 月份 Aliware 技術行上海站 Dubbo 開發者沙龍上,阿里巴巴高階技術專家郭平 (坤宇) 宣佈了阿里巴巴的一個新開源專案 Nacos。
Nacos 支援幾乎所有主流型別的“服務”的發現、配置和管理:
- Kubernetes Serviceg
- RPC & Dubbo RPC Service
- Spring Cloud RESTful Service
Nacos生態圖(來自Nacos官網)
3.1 安裝Nacos並啟動服務
- 獲取Nacos安裝檔案並進行解壓
# 下載nacos最新版
wget https://github.com/alibaba/nacos/releases/download/1.3.2/nacos-server-1.3.2.tar.gz
# 解壓檔案
tar -xvf nacos-server-1.3.2.tar.gz
# 通過nacos-mysql.sql指令碼建立資料庫
cd nacos/conf
vim nacos-mysql.sql
- 建立Nacos配置資料庫
/******************************************/
/* 資料庫全名 = nacos_config */
/* 表名稱 = config_info */
/******************************************/
CREATE TABLE `config_info` (
`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT 'id',
`data_id` varchar(255) NOT NULL COMMENT 'data_id',
`group_id` varchar(255) DEFAULT NULL,
`content` longtext NOT NULL COMMENT 'content',
`md5` varchar(32) DEFAULT NULL COMMENT 'md5',
`gmt_create` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '建立時間',
`gmt_modified` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '修改時間',
`src_user` text COMMENT 'source user',
`src_ip` varchar(20) DEFAULT NULL COMMENT 'source ip',
`app_name` varchar(128) DEFAULT NULL,
`tenant_id` varchar(128) DEFAULT '' COMMENT '租戶欄位',
`c_desc` varchar(256) DEFAULT NULL,
`c_use` varchar(64) DEFAULT NULL,
`effect` varchar(64) DEFAULT NULL,
`type` varchar(64) DEFAULT NULL,
`c_schema` text,
PRIMARY KEY (`id`),
...
- 修改配置檔案
cd nacos/conf
# 編輯配置檔案
vim application.properties
#*************** Spring Boot Related Configurations ***************#
### Default web context path:
server.servlet.contextPath=/nacos
### Default web server port:
server.port=8848
#*************** Network Related Configurations ***************#
### If prefer hostname over ip for Nacos server addresses in cluster.conf:
# nacos.inetutils.prefer-hostname-over-ip=false
### Specify local server's IP:
# nacos.inetutils.ip-address=
#*************** Config Module Related Configurations ***************#
### If use MySQL as datasource:
spring.datasource.platform=mysql
### Count of DB:
db.num=1
### Connect URL of DB:
db.url.0=jdbc:mysql://127.0.0.1:3306/nacos_config?characterEncoding=utf8&connectTimeout=1000&socketTimeout=3000&autoReconnect=true&useUnicode=true&useSSL=false&serverTimezone=UTC
db.user=root
db.password=root
- 執行nacos
cd nacos/bin
# 單機執行
sh startup.sh -m standalone
- 登入nacos控制檯
3.2 建立微服務並向Nacos註冊服務
-
建立微服務工程專案
-
勾選Nacos Service Discovery依賴
-
開啟pom.xml,下載依賴
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>2.2.9.RELEASE</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<groupId>nacos.democonsumer</groupId>
<artifactId>sentinel</artifactId>
<version>0.0.1-SNAPSHOT</version>
<name>sentinel</name>
<description>Demo project for Spring Boot</description>
<properties>
<java.version>1.8</java.version>
<spring-cloud-alibaba.version>2.2.1.RELEASE</spring-cloud-alibaba.version>
</properties>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
<exclusions>
<exclusion>
<groupId>org.junit.vintage</groupId>
<artifactId>junit-vintage-engine</artifactId>
</exclusion>
</exclusions>
</dependency>
</dependencies>
<dependencyManagement>
<dependencies>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>${spring-cloud-alibaba.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<build>
<plugins>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
</plugin>
</plugins>
</build>
</project>
- 設定專案配置檔案:application.yml
# 埠
server:
port: 8083
spring:
application:
name: goods-service
cloud:
# nacos服務註冊
nacos:
discovery:
server-addr: 172.16.109.118:8848
- 通過 Spring Cloud Alibaba原生註解 @EnableDiscoveryClient 開啟服務註冊發現功能
// 通過 Spring Cloud 原生註解 @EnableDiscoveryClient 開啟服務註冊發現功能
@EnableDiscoveryClient
@SpringBootApplication
public class DemoServiceApplication {
public static void main(String[] args) {
SpringApplication.run(DemoServiceApplication.class, args);
}
}
- 建立HTTP介面的商品資訊微服務,模擬返回商品列表
/**
* 商品資訊微服務-模擬返回商品列表
*/
@RestController
@RequestMapping("api/goods")
public class GoodsService {
public static final Logger logger = LoggerFactory.getLogger(GoodsService.class);
// 返回商品列表
@GetMapping
public List<Goods> getAllGoods(HttpServletRequest httpServletRequest) {
List<Goods> goods = new ArrayList<>();
goods.add(new Goods("電腦", 10));
goods.add(new Goods("手機", 20));
goods.add(new Goods("書籍", 30));
logger.info("服務被呼叫:"+httpServletRequest.getRequestURI());
return goods;
}
}
- 啟動微服務程式
- 檢視Nacos控制檯的服務中心列表,可以看到商品資訊微服務已在Nacos註冊成功
3.3 建立微服務消費者進行服務呼叫
- 仿照以上3.2小節建立微服務提供者步驟,建立服務消費者工程專案;
- 開啟pom.xml,下載依賴
...
<!-- 加入Nacos Discovery Client 依賴 -->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
...
- 專案配置:application.yml
# 埠
server:
port: 8090
# Spring配置
spring:
application:
name: user-consumer
cloud:
nacos:
discovery:
server-addr: 172.16.109.118:8848
enabled: true
# 呼叫微服務超時時間設定
ribbon:
ConnectTimeout: 5000
ReadTimeout: 5000
# feign日誌以什麼級別監控哪個介面
logging:
level:
nacos.democonsumer.GoodService : debug
# 商品微服務地址
service:
url=http://goods-service/
- 通過 Spring Cloud Alibaba原生註解 @EnableDiscoveryClient 開啟服務發現功能,並向Spring註冊一個RestTemplate Bean
@EnableDiscoveryClient
@SpringBootApplication
public class DemoConsumerApplication {
// 向Spring註冊一個RestTemplate Bean
@Bean
// 負載均衡
@LoadBalanced
RestTemplate restTemplate(){
return new RestTemplate();
}
public static void main(String[] args) {
SpringApplication.run(DemoConsumerApplication.class, args);
}
}
- 建立Restful測試介面,通過該測試介面可發現並呼叫Nacos中註冊的商品資訊微服務
/**
* 使用者消費者--呼叫nacos服務中心的商品資訊微服務,並對外提供RestFul介面測試
*/
@RestController
@RequestMapping("user/")
public class UserConsumer {
@Autowired
private RestTemplate restTemplate;
@Value("${service.url}")
private String url;
@GetMapping("/goods")
public User getUserGoods() {
User user = new User();
// 呼叫商品微服務
Object response = restTemplate.getForEntity(url + "api/goods", Object.class).getBody();
try {
user.setName("jack");
user.setGoods((List<GoodsDTO>) response);
} catch (Exception e){
throw new RuntimeException(e.getMessage());
}
return user;
}
}
- 執行服務消費者程式,並開啟HttpClient工具進行測試
3.4 Nacos小結
- Spring Cloud Alibaba 的Nacos元件可以完美取代Eureka做為微服務發現及註冊的基礎框架。
- 通過Nacos特性大圖中,我們還可以瞭解到,Nacos除了服務發現的框架,還能做到配置管理,DNS服務等功能。
四、Sentinel的基礎實踐
4.1 安裝Sentinel監控
# 下載服務端
wget https://github.com/alibaba/Sentinel/releases/download/v1.8.0/sentinel- dashboard-1.8.0.jar
# 啟動服務(預設埠為8080)
java -jar sentinel-dashboard-1.8.0.jar
- 登入控制檯,預設使用者名稱與密碼為sentinel
4.2 通過Sentinel對微服務提供方進行流量控制
- 對原有商品資訊微服務提供者增加Sentinel依賴
<project>
...
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
...
</project>
- 修改專案配置檔案application.yml增加Sentinel控制檯地址
server:
port: 8083
spring:
application:
name: goods-service
cloud:
# nacos服務註冊
nacos:
discovery:
server-addr: 172.16.109.118:8848
# sentinel服務
sentinel:
transport:
dashboard: 172.16.109.118:8080
-
執行微服務程式,通過Nacos控制檯觀察微服務註冊資訊
-
我們再通過HttpClient工具訪問一下微服務的Api埠,並進入Sentinel控制檯進行監控:在控制檯中,我們發現了服務名稱,及該服務下的各種規則設定選單。
4.2.1 通過JMeter模擬高併發流量
-
設定20000個併發請求
-
設定HTTP請求地址:
-
設定報告輸出
-
啟動JMeter,觀察Sentinel控制檯,可以看到QPS的實時狀況。
4.2.2 設定流控規則進行流量控制
- 對Sentinel控制檯中服務的資源增加流量控制規則
- 給微服務介面的QPS設定閾值
- 再次啟動JMeter進行高併發測試,在控制檯中進行觀察,可以看到服務介面的QPS被限制在閾值以下。
- JMeter結果列表中可以觀察到異常資訊。
4.2.3 設定降級規則進行流量控制
- 對Sentinel控制檯中服務的資源增加熔斷降級規則
慢呼叫比例 (SLOW_REQUEST_RATIO):選擇以慢呼叫比例作為閾值,需要設定允許的慢呼叫 RT(即最大的響應時間),請求的響應時間大於該值則統計為慢呼叫。當單位統計時長(statIntervalMs)內請求數目大於設定的最小請求數目,並且慢呼叫的比例大於閾值,則接下來的熔斷時長內請求會自動被熔斷。經過熔斷時長後熔斷器會進入探測恢復狀態(HALF-OPEN 狀態),若接下來的一個請求響應時間小於設定的慢呼叫 RT 則結束熔斷,若大於設定的慢呼叫 RT 則會再次被熔斷。
- 在實時監控介面可以看到請求被拒絕,證明熔斷降級規則生效
- 在JMeter結果表格中也出現了大量失敗的呼叫請求
4.3 通過Sentinel對微服務呼叫方進行流量控制
- Sentinel流程控制元件除了可以在微服務端進行必要的流量控制外,也可以在服務呼叫方的客戶端進行控。,
- 微服務呼叫方加入OpenFeign元件
<-- pom.xml -->
<!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-openfeign -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
<version>2.2.5.RELEASE</version>
</dependency>
- 專案配置
server:
port: 8090
spring:
application:
name: user-consumer
cloud:
nacos:
discovery:
server-addr: 172.16.109.118:8848
# sentinel服務
sentinel:
transport:
dashboard: 172.16.109.118:8080
# 呼叫微服務超時時間設定
ribbon:
ConnectTimeout: 5000
ReadTimeout: 5000
# feign日誌以什麼級別監控哪個介面
logging:
level:
nacos.democonsumer.GoodService : debug
# 啟用sentinel
feign:
sentinel:
enabled: true
- 主啟動類增加註解
/**
* 主啟動類
*/
// 啟用Feign元件
@EnableFeignClients
@EnableDiscoveryClient
@SpringBootApplication
public class DemoConsumerApplication {
public static void main(String[] args) {
SpringApplication.run(DemoConsumerApplication.class, args);
}
}
- 參照Nacos中註冊的服務名,在服務呼叫者程式中對映微服務介面, 並通過@FeignClient呼叫微服務,同時定義服務熔斷時如何處理(fallback)
/**
* 對映商品微服務介面
*/
@Component
// 增加服務容錯處理,指定服務熔斷時處理的類名
@FeignClient(value="goods-service",fallback =FallBackService.class )
public interface GoodService {
@GetMapping(value="/api/goods")
List<GoodsDTO> getGoods();
}
/**
* 服務熔斷處理:返回空值
*/
@Component
public class FallBackService implements GoodService {
private final static Logger logger= LoggerFactory.getLogger(FallBackService.class) ;
@Override
public List<GoodsDTO> getGoods() {
logger.info("服務已熔斷...");
return new ArrayList<>();
}
}
- 服務呼叫者呼叫程式無需變化
/**
* 使用者消費者--呼叫nacos服務中心的商品服務,並對外提供RestFul介面測試
*/
@RestController
@RequestMapping("user/")
public class UserConsumer {
// 注入商品微服務接品
@Autowired
private GoodService goodService;
@GetMapping("/goods")
public User getUserGoods() {
User user = new User();
// 通過GoodsService介面呼叫商品微服務
try {
List<GoodsDTO> goods = goodService.getGoods();
user.setName("jack");
user.setGoods(goods);
} catch (Exception e){
throw new RuntimeException(e.getMessage());
}
return user;
}
}
-
接下來啟動微服務呼叫者,通過HttpClient工具進行測試,呼叫正常
-
進入到Sentinel控制檯,同樣可以看到消費者的Api介面
4.3.1 對服務呼叫者中的服務提供方進行流量控制
-
對Sentinel控制檯中服務的資源增加流量控制規則,在FeignClient中,Sentinel為Feign呼叫生成了資源名策略定義,定義規則為 [httpmethod :protocol://requesturl](比如 GET:http://goods-service/api/goods)
-
為便於測試,故意將QPS的單機閾值設為0
-
使用HttpClient工具再次測試,由於我們在流量控制規則中已對QPS做了限制,服務呼叫請求已無法通過,故觸發fallback,返回空值。
-
服務呼叫者日誌資訊提示服務已熔斷..
4.4 Sentinel實踐小結
- Sentinel與Hystrix相比,更加輕量級:Sentinel對主流框架提供適配的 API,來定義需要保護的資源,並提供設施對資源進行實時統計和呼叫鏈路分析。
- Sentinel 提供了更加多樣化的流量控制,熔斷降級和系統負載保護手段。
- Sentine具備完善的實時監控和控制檯。