ketchup服務治理

發表於2020-05-27

ketcup  git地址:https://github.com/simple-gr/ketchup

服務治理是什麼

  企業為了確保事情順利完成而實施的過程,包括最佳實踐、架構原則、治理規程、規律以及其他決定性的因素。

  我理解的就是服務治理就是一顆藥,用來治療服務之間存在的各種疑難雜症從而能讓他正常的執行起來。

 治理的策略

 

 負載均衡

  為了提高可用性、降低延遲,同一個服務可能會部署多個例項,負載均衡就是為了在服務的多個例項之間進行分配負載,已達到優化資源使用、最大化吞吐率,同時避免過載。

限流

  服務的流量可能是動態的,如果流量增加,超過服務承載範圍,就會影響使用者掩。通過限制服務能使用的資源,當監控到流量超過設定的閾值時,服務拒絕處理新的使用者請求。當系統壓力過大時,對系統的非核心業務進行限流,避免因壓力過大導致整個系統奔潰。

容錯

  生產環境中的每個微服務並不是具有百分百的可靠。服務之間跨網路呼叫,增加了呼叫失敗的可能性。因此,如何保證微服務系統的可靠性,也變得更為複雜和困難。所以,微服務系統在設計之初就需要考慮容錯機制,當系統負載過高時,可以確保核心業務不被破壞,以及當某個服務出錯時,把影響範圍降低到最小,避免整個系統不可用。

配置 

  服務在執行過程中,需要和其他服務協作,同時他也會依賴基礎設施或其他服務完成某項業務功能。在這個過程中,就需要多樣化的配置資訊。原始碼中硬編碼配置資訊,雖然實現成本低,但是這種方式不僅缺乏靈活性,而且容易造成資訊洩露。因此,較好的方式是將配置與程式碼分離。採用獨立於程式碼的外部機制儲存配置資訊。

ketchup 中的實現

  當有rpc請求時,負載均衡策略決定那個子通道即grpc伺服器將接收請求。(當前實現的負載演算法有隨機數與輪詢演算法)

  使用方式是在配置檔案中直接設定:

  

"Consul": {
    "ConnectionString": "192.168.180.55:8500",
    "IsHealthCheck": true,
    "Strategy":"Random" //負載策略 Random(隨機演算法),Polling(輪詢演算法)
  }

 

    容錯限流配置需要在屬性上面設定

   Service 宣告為服務型別

  HystrixCommand 設定限流 容錯,超時等機制

    [Service(Name = "grpc.domain.RpcTest")]
    public class HelloService : RpcTest.RpcTestBase
    {       
        [HystrixCommand(MethodName = nameof(SayHello), ExcuteTimeoutInMilliseconds = 3000)]
        public override async Task<HelloReponse> SayHello(HelloRequest request, ServerCallContext context)
        {           
            var result = await _cache.GetAsync<string>("a");

            return new HelloReponse()
            {
                Code = 1,
                Msg = "hello simple",
                Result = JsonConvert.SerializeObject(result)
            };
        }        
    }

  HystrixCommand 可配置治理功能  

    public class HystrixCommandAttribute : Attribute
    {
        public string MethodName { get; set; }

        /// <summary>
        /// 執行超時時間
        /// </summary>
        public int ExcuteTimeoutInMilliseconds { get; set; } = 10000;

        /// <summary>
        /// 最大訊號量
        /// </summary>
        public int MaxRequests { get; set; } = 0;

        /// <summary>
        /// 最大訊號量的限定時間
        /// 預設1s
        /// </summary>
        public int MaxRequestsTime { get; set; } = 1000;

        /// <summary>
        /// 至少多少請求失敗,熔斷器才發揮起作用
        /// </summary>
        public int BreakerRequestCircuitBreaker { get; set; } = 10;

        /// <summary>
        /// 是否開啟服務降級
        /// </summary>
        public bool EnableServiceDegradation { get; set; }

        /// <summary>
        /// 降級快取型別
        /// </summary>
        public CacheModel Cache { get; set; } = CacheModel.Memory;

        /// <summary>
        /// 降級快取時間
        /// 單位 秒
        /// </summary>
        public int ServiceDegradationTimeSpan { get; set; } = 10;
    }

 寫在最後 

QQ群:592407137 期待大家一起研究,學習~~

開源不易,如果喜歡,請給予一個Start 給予支援。謝謝!

相關文章