golang grpc 負載均衡

微服務架構裡面，每個服務都會有很多節點，如果流量分配不均勻，會造成資源的浪費，甚至將一些機器壓垮，這個時候就需要負載均衡，最簡單的一種策略就是輪詢，順序依次選擇不同的節點訪問

grpc 在客戶端提供了負載均衡的實現，並提供了服務地址解析和更新的介面(預設提供了 DNS 域名解析的支援)，方便不同服務的整合

使用示例

conn, err := grpc.Dial(
    "",
    grpc.WithInsecure(),
    // 負載均衡，使用 consul 作服務發現
    grpc.WithBalancer(grpc.RoundRobin(grpclb.NewConsulResolver(
        "127.0.0.1:8500", "grpc.health.v1.add",
    ))),
)

建立連線的時候可以使用 WithBalancer 選項來指定負載均衡策略，這裡使用 RoundRobin 演算法，其實就是輪詢策略

與 consul 的整合

有了負載均衡策略，還需要一個地址解析和更新策略，可以使用 DNS 服務來實現，但如果我們使用 consul 來做服務的註冊和發現，可以通過實現 naming.Resolver 和 naming.Watcher 介面來支援

• naming.Resolver: 實現地址解析
• naming.Watcher: 實現節點的變更，新增或者刪除

func NewConsulResolver(address string, service string) naming.Resolver {
    return &consulResolver{
        address: address,
        service: service,
    }
}

type consulResolver struct {
    address string
    service string
}

func (r *consulResolver) Resolve(target string) (naming.Watcher, error) {
    config := api.DefaultConfig()
    config.Address = r.address
    client, err := api.NewClient(config)
    if err != nil {
        return nil, err
    }

    return &consulWatcher{
        client:  client,
        service: r.service,
        addrs:   map[string]struct{}{},
    }, nil
}

type consulWatcher struct {
    client    *api.Client
    service   string
    addrs     map[string]struct{}
    lastIndex uint64
}

func (w *consulWatcher) Next() ([]*naming.Update, error) {
    for {
        services, metainfo, err := w.client.Health().Service(w.service, "", true, &api.QueryOptions{
            WaitIndex: w.lastIndex, // 同步點，這個呼叫將一直阻塞，直到有新的更新
        })
        if err != nil {
            logrus.Warn("error retrieving instances from Consul: %v", err)
        }
        w.lastIndex = metainfo.LastIndex

        addrs := map[string]struct{}{}
        for _, service := range services {
            addrs[net.JoinHostPort(service.Service.Address, strconv.Itoa(service.Service.Port))] = struct{}{}
        }

        var updates []*naming.Update
        for addr := range w.addrs {
            if _, ok := addrs[addr]; !ok {
                updates = append(updates, &naming.Update{Op: naming.Delete, Addr: addr})
            }
        }

        for addr := range addrs {
            if _, ok := w.addrs[addr]; !ok {
                updates = append(updates, &naming.Update{Op: naming.Add, Addr: addr})
            }
        }

        if len(updates) != 0 {
            w.addrs = addrs
            return updates, nil
        }
    }
}

func (w *consulWatcher) Close() {
    // nothing to do
}

參考連結

• gRPC Name Resolution: https://github.com/grpc/grpc/blob/master/doc/naming.md
• Load Balancing in gRPC: https://github.com/grpc/grpc/blob/master/doc/load-balancing.md
• dns_resolver: https://github.com/grpc/grpc-go/blob/30fb59a4304034ce78ff68e21bd25776b1d79488/naming/dns_resolver.go
• 程式碼地址: https://github.com/hatlonely/hellogolang/blob/master/sample/addservice/cmd/client/main.go

轉載請註明出處 本文連結：http://www.hatlonely.com/2018/06/23/golang-grpc-%E8%B4%9F%E8%BD%BD%E5%9D%87%E8%A1%A1/