在微服務架構下,原單體服務被拆分為多個微服務獨立部署,客戶端就無法知曉服務的具體位置;而且服務數量太多,維護如此多的服務地址,運維人員也無法高效工作。
因此,在微服務架構中引入了服務註冊中心,用於接受和維護各個服務的地址資訊。客戶端或者閘道器可以通過註冊中心查詢目標服務地址,動態實現服務訪問,並且在此實現服務負載均衡。
對於服務註冊與發現,go-kit預設提供了對consul、zookeeper、etcd、eureka常用註冊中心的支援。
概述
本文將基於consul,使用“客戶端發現模式”進行實戰演練,主要有以下要點:
- consul使用docker映象(progrium/consul)單機部署;
- 算術服務以名稱arithmetic註冊至consul;
- 編寫發現服務通過consul查詢服務例項,基於RoundRibbon進行負載均衡。
本文例項程式採用的思路為:算術服務註冊至consul,其他部分保持不變;發現服務對外暴露http介面,接受請求後(接收請求內容儲存在Body中,以json方式傳遞),按照go-kit的機制動態查詢算術服務例項,呼叫算術服務的介面,然後將響應內容返回。如下圖所示:
啟動consul
- 修改
docker/docker-compose.yml
,如下所示(暫時註釋了Prometheus和Grafana的部分)。
version: '2'
services:
consul:
image: progrium/consul:latest
ports:
- 8400:8400
- 8500:8500
- 8600:53/udp
hostname: consulserver
command: -server -bootstrap -ui-dir /ui
複製程式碼
- 啟動docker。在終端切換至專案目錄,執行以下命令:
sudo docker-compose -f docker/docker-compose.yml up
複製程式碼
- 通過瀏覽器訪問
http://localhost:8500
,出現以下介面即為啟動成功。
服務註冊
Step-1:程式碼準備
本示例基於arithmetic_monitor_demo
程式碼進行改寫。首先,複製該目錄並重新命名為arithmetic_consul_demo
;新建兩個目錄,分別命名為register
、discover
;將原有go
程式碼檔案移動至register
目錄。結果如下圖所示:
另外,需要下載所依賴的第三方庫uuid
和hashicorp/consul
go get github.com/pborman/uuid
go get github.com/hashicorp/consul
複製程式碼
Step-2:實現註冊方法
新建register/register.go
,新增Register
方法,實現向consul的註冊邏輯。該方法接收5個引數,分別是註冊中心consul的ip、埠,算術服務的本地ip和埠,日誌記錄工具。
建立註冊物件需要使用hashicorp/consul
,檢視程式碼可知其方法定義如下:
func NewRegistrar(client Client, r *stdconsul.AgentServiceRegistration, logger log.Logger) *Registrar
複製程式碼
所以Register
的實現過程主要有三步:建立consul客戶端物件;建立consul對算術服務健康檢查的引數配置資訊;建立算術服務向consul註冊的服務配置資訊。程式碼如下:
func Register(consulHost, consulPort, svcHost, svcPort string, logger log.Logger) (registar sd.Registrar) {
// 建立Consul客戶端連線
var client consul.Client
{
consulCfg := api.DefaultConfig()
consulCfg.Address = consulHost + ":" + consulPort
consulClient, err := api.NewClient(consulCfg)
if err != nil {
logger.Log("create consul client error:", err)
os.Exit(1)
}
client = consul.NewClient(consulClient)
}
// 設定Consul對服務健康檢查的引數
check := api.AgentServiceCheck{
HTTP: "http://" + svcHost + ":" + svcPort + "/health",
Interval: "10s",
Timeout: "1s",
Notes: "Consul check service health status.",
}
port, _ := strconv.Atoi(svcPort)
//設定微服務想Consul的註冊資訊
reg := api.AgentServiceRegistration{
ID: "arithmetic" + uuid.New(),
Name: "arithmetic",
Address: svcHost,
Port: port,
Tags: []string{"arithmetic", "raysonxin"},
Check: &check,
}
// 執行註冊
registar = consul.NewRegistrar(client, ®, logger)
return
}
複製程式碼
Step-3:實現健康檢查介面
由Step-2
可知,consul將定時請求算術服務的/heath
用於檢查服務的健康狀態,所以我們將從service
、endpoint
、transport
中增加對應的實現。
- 在介面
Service
中新增介面方法HealthCheck
,並依次在ArithmeticService
、loggingMiddleware
、metricMiddleware
中新增實現。
// service介面
// Service Define a service interface
type Service interface {
//省略之前的其他方法
// HealthCheck check service health status
HealthCheck() bool
}
// ArithmeticService實現HealthCheck
// HealthCheck implement Service method
// 用於檢查服務的健康狀態,這裡僅僅返回true。
func (s ArithmeticService) HealthCheck() bool {
return true
}
// loggingMiddleware實現HealthCheck
func (mw loggingMiddleware) HealthCheck() (result bool) {
defer func(begin time.Time) {
mw.logger.Log(
"function", "HealthChcek",
"result", result,
"took", time.Since(begin),
)
}(time.Now())
result = mw.Service.HealthCheck()
return
}
// metricMiddleware實現HealthCheck
func (mw metricMiddleware) HealthCheck() (result bool) {
defer func(begin time.Time) {
lvs := []string{"method", "HealthCheck"}
mw.requestCount.With(lvs...).Add(1)
mw.requestLatency.With(lvs...).Observe(time.Since(begin).Seconds())
}(time.Now())
result = mw.Service.HealthCheck()
return
}
複製程式碼
- 在
endpoints.go
中新增結構:ArithmeticEndpoints
。在之前的示例中,僅使用了一個endpoint,所以我直接使用了結構endpoint.Endpoint
。定義如下:
// ArithmeticEndpoint define endpoint
type ArithmeticEndpoints struct {
ArithmeticEndpoint endpoint.Endpoint
HealthCheckEndpoint endpoint.Endpoint
}
複製程式碼
- 建立健康檢查的請求、響應物件,以及對應的
endpoint.Endpoint
封裝方法。程式碼如下:
// HealthRequest 健康檢查請求結構
type HealthRequest struct{}
// HealthResponse 健康檢查響應結構
type HealthResponse struct {
Status bool `json:"status"`
}
// MakeHealthCheckEndpoint 建立健康檢查Endpoint
func MakeHealthCheckEndpoint(svc Service) endpoint.Endpoint {
return func(ctx context.Context, request interface{}) (response interface{}, err error) {
status := svc.HealthCheck()
return HealthResponse{status}, nil
}
}
複製程式碼
- 在
transports.go
中新增健康檢查介面/health
。
// MakeHttpHandler make http handler use mux
func MakeHttpHandler(ctx context.Context, endpoints ArithmeticEndpoints, logger log.Logger) http.Handler {
r := mux.NewRouter()
//省略原有/calculate/{type}/{a}/{b}程式碼
// create health check handler
r.Methods("GET").Path("/health").Handler(kithttp.NewServer(
endpoints.HealthCheckEndpoint,
decodeHealthCheckRequest,
encodeArithmeticResponse,
options...,
))
return r
}
複製程式碼
Step-4:修改main.go
接下來在main.go
中增加健康檢查和服務註冊相關的呼叫程式碼,以便上述修改邏輯生效。
- 健康檢查。
//建立健康檢查的Endpoint,未增加限流
healthEndpoint := MakeHealthCheckEndpoint(svc)
//把算術運算Endpoint和健康檢查Endpoint封裝至ArithmeticEndpoints
endpts := ArithmeticEndpoints{
ArithmeticEndpoint: endpoint,
HealthCheckEndpoint: healthEndpoint,
}
//建立http.Handler
r := MakeHttpHandler(ctx, endpts, logger)
複製程式碼
- 服務註冊。準備服務需要的環境變數,建立註冊物件,在服務啟動前註冊至consul,服務退出後從consul取消註冊。下面只貼出部分程式碼,完整程式碼可從github獲取。
// 定義環境變數
var (
consulHost = flag.String("consul.host", "", "consul ip address")
consulPort = flag.String("consul.port", "", "consul port")
serviceHost = flag.String("service.host", "", "service ip address")
servicePort = flag.String("service.port", "", "service port")
)
// parse
flag.Parse()
// ...
//建立註冊物件
registar := Register(*consulHost, *consulPort, *serviceHost, *servicePort, logger)
go func() {
fmt.Println("Http Server start at port:" + *servicePort)
//啟動前執行註冊
registar.Register()
handler := r
errChan <- http.ListenAndServe(":"+*servicePort, handler)
}()
go func() {
c := make(chan os.Signal, 1)
signal.Notify(c, syscall.SIGINT, syscall.SIGTERM)
errChan <- fmt.Errorf("%s", <-c)
}()
error := <-errChan
//服務退出,取消註冊
registar.Deregister()
fmt.Println(error)
複製程式碼
Step-5:編譯&執行
開啟終端,切換至專案目錄。執行go build ./register
編譯成功後,輸入以下指令啟動算術服務(註冊服務):
./register -consul.host localhost -consul.port 8500 -service.host 192.168.192.145 -service.port 9000
複製程式碼
啟動成功後,再次重新整理consul-ui
介面,看到如下介面即說明算術服務成功註冊至consul。
同時也可以在註冊服務執行的終端看到consul定時呼叫/health
介面的日誌輸出資訊:
服務發現
discover
服務要完成的工作為:以REST介面/calculate
對外提供API服務,客戶端使用HTTP POST方法傳送json資料執行請求;在endpoint中查詢已經在consul中註冊的服務例項;然後選擇合適的服務例項向其發起請求轉發;完成請求後向原客戶端請求響應。
查閱go-kit原始碼可知,kit/sd/Endpointer
提供了一套服務發現機制,其定義和建立介面如下所示:
// Endpointer listens to a service discovery system and yields a set of
// identical endpoints on demand. An error indicates a problem with connectivity
// to the service discovery system, or within the system itself; an Endpointer
// may yield no endpoints without error.
type Endpointer interface {
Endpoints() ([]endpoint.Endpoint, error)
}
// NewEndpointer creates an Endpointer that subscribes to updates from Instancer src
// and uses factory f to create Endpoints. If src notifies of an error, the Endpointer
// keeps returning previously created Endpoints assuming they are still good, unless
// this behavior is disabled via InvalidateOnError option.
func NewEndpointer(src Instancer, f Factory, logger log.Logger, options ...EndpointerOption) *DefaultEndpointer
複製程式碼
通過程式碼註釋我們可以知道: Endpointer通過監聽服務發現系統的事件資訊,並且通過factory按需建立服務終結點(Endpoint
)。
所以,我們需要通過Endpointer
來實現服務發現功能。在微服務模式下,同一個服務可能存在多個例項,所以需要通過負載均衡機制完成例項選擇,這裡使用go-kit工具集中的kit/sd/lb
元件(該元件實現RoundRibbon,並具備Retry功能)。
Step-1:建立factory
在discover
目錄中建立go檔案factory.go
,實現sd.Factory
的邏輯,即把服務例項轉換為endpoint,在該endpoint中實現對於目標服務的呼叫過程。這裡直接針對算術運算服務進行封裝,程式碼如下所示:
func arithmeticFactory(_ context.Context, method, path string) sd.Factory {
return func(instance string) (endpoint endpoint.Endpoint, closer io.Closer, err error) {
if !strings.HasPrefix(instance, "http") {
instance = "http://" + instance
}
tgt, err := url.Parse(instance)
if err != nil {
return nil, nil, err
}
tgt.Path = path
var (
enc kithttp.EncodeRequestFunc
dec kithttp.DecodeResponseFunc
)
enc, dec = encodeArithmeticRequest, decodeArithmeticReponse
return kithttp.NewClient(method, tgt, enc, dec).Endpoint(), nil, nil
}
}
func encodeArithmeticRequest(_ context.Context, req *http.Request, request interface{}) error {
arithReq := request.(ArithmeticRequest)
p := "/" + arithReq.RequestType + "/" + strconv.Itoa(arithReq.A) + "/" + strconv.Itoa(arithReq.B)
req.URL.Path += p
return nil
}
func decodeArithmeticReponse(_ context.Context, resp *http.Response) (interface{}, error) {
var response ArithmeticResponse
var s map[string]interface{}
if respCode := resp.StatusCode; respCode >= 400 {
if err := json.NewDecoder(resp.Body).Decode(&s); err != nil {
return nil, err
}
return nil, errors.New(s["error"].(string) + "\n")
}
if err := json.NewDecoder(resp.Body).Decode(&response); err != nil {
return nil, err
}
return response, nil
}
複製程式碼
Step-2:建立endpoint
建立go檔案discover/enpoints.go
。根據上述分析,在該endpoint實現對服務發現系統的監聽,實現例項選擇,最終返回可執行的endpoint.Endpoint
。下面根據程式碼註釋說明實現過程:
// MakeDiscoverEndpoint 使用consul.Client建立服務發現Endpoint
// 為了方便這裡預設了一些引數
func MakeDiscoverEndpoint(ctx context.Context, client consul.Client, logger log.Logger) endpoint.Endpoint {
serviceName := "arithmetic"
tags := []string{"arithmetic", "raysonxin"}
passingOnly := true
duration := 500 * time.Millisecond
//基於consul客戶端、服務名稱、服務標籤等資訊,
// 建立consul的連線例項,
// 可實時查詢服務例項的狀態資訊
instancer := consul.NewInstancer(client, logger, serviceName, tags, passingOnly)
//針對calculate介面建立sd.Factory
factory := arithmeticFactory(ctx, "POST", "calculate")
//使用consul連線例項(發現服務系統)、factory建立sd.Factory
endpointer := sd.NewEndpointer(instancer, factory, logger)
//建立RoundRibbon負載均衡器
balancer := lb.NewRoundRobin(endpointer)
//為負載均衡器增加重試功能,同時該物件為endpoint.Endpoint
retry := lb.Retry(1, duration, balancer)
return retry
}
複製程式碼
Step-3:建立transport
建立go檔案discover/transports.go
。通過mux/Router
使用POST方法為發現服務開放REST介面/calculate
,與算術服務一樣,這裡需要endpoint.Endpoint
、DecodeRequestFunc
、EncodeResponseFunc
。為了方便,我把算術服務中的請求與響應結構和編解碼方法直接複製過來。程式碼如下所示:
func MakeHttpHandler(endpoint endpoint.Endpoint) http.Handler {
r := mux.NewRouter()
r.Methods("POST").Path("/calculate").Handler(kithttp.NewServer(
endpoint,
decodeDiscoverRequest,
encodeDiscoverResponse,
))
return r
}
// 省略實體結構和編解碼方法
複製程式碼
Step-4:編寫main方法
接下來就是在main方法把以上邏輯串起來,然後啟動發現服務了,這裡監聽埠為9001。比較簡單,直接貼程式碼了:
func main() {
// 建立環境變數
var (
consulHost = flag.String("consul.host", "", "consul server ip address")
consulPort = flag.String("consul.port", "", "consul server port")
)
flag.Parse()
//建立日誌元件
var logger log.Logger
{
logger = log.NewLogfmtLogger(os.Stderr)
logger = log.With(logger, "ts", log.DefaultTimestampUTC)
logger = log.With(logger, "caller", log.DefaultCaller)
}
//建立consul客戶端物件
var client consul.Client
{
consulConfig := api.DefaultConfig()
consulConfig.Address = "http://" + *consulHost + ":" + *consulPort
consulClient, err := api.NewClient(consulConfig)
if err != nil {
logger.Log("err", err)
os.Exit(1)
}
client = consul.NewClient(consulClient)
}
ctx := context.Background()
//建立Endpoint
discoverEndpoint := MakeDiscoverEndpoint(ctx, client, logger)
//建立傳輸層
r := MakeHttpHandler(discoverEndpoint)
errc := make(chan error)
go func() {
c := make(chan os.Signal)
signal.Notify(c, syscall.SIGINT, syscall.SIGTERM)
errc <- fmt.Errorf("%s", <-c)
}()
//開始監聽
go func() {
logger.Log("transport", "HTTP", "addr", "9001")
errc <- http.ListenAndServe(":9001", r)
}()
// 開始執行,等待結束
logger.Log("exit", <-errc)
}
複製程式碼
Step-5:編譯&執行
在終端中切換至discover
目錄,執行go build
完成編譯,然後使用以下命令(指定註冊中心服務地址)啟動發現服務:
./discover -consul.host localhost -consul.port 8500
複製程式碼
請求測試
使用postman請求http://localhost:9001/calculate
,在body
中設定請求資訊,完成測試。如下圖所示:
總結
本文使用consul作為註冊中心,通過例項演示了go-kit的服務註冊與發現功能。由於本人在這個部分了解不夠透徹,在編寫程式碼和本文的過程中,一直在研究go-kit發現元件的設計方式,力求能夠通過程式碼、文字解釋清楚。本人水平有限,有任何錯誤或不妥之處,請大家批評指正。
本文例項程式碼見arithmetic_consul_demo。
本文首發於本人微信公眾號【兮一昂吧】,歡迎掃碼關注!