服務網格網路對於企業人工智慧AI解決方案的重要性 - datasciencecentral

banq發表於2020-11-08

在企業AI架構,Kubernetes是一個優選的可供選擇容器配器和自動化計算機應用程式部署,縮放,和管理。        
 

服務網狀網路的背景和起源
Kubernetes和Istio分隔了流量流:

  • 與業務相關的流量透過資料平面和
  • 訊息流以及Istio元件之間的互動以控制網格行為。

Istio是一項開放原始碼的網格服務,由Google,IBM和Lyft共同協作建立。  
一個服務網是一個共享的組名稱和標識,允許共同策略執行和遙測集合,其中服務名稱和工作量校長仍然是獨一無二的。它是相互連線的服務相互互動的抽象,以減少在分散式環境中管理應用程式的連線性,安全性和可觀察性的複雜性。  
Istio, 在 “服務網” 是為了連線應用程式元件,從而提振Kubernetes叢集協調器的能力,透過管理流行的微服務。它透過將自身透明地分層放置在現有分散式基礎架構上,並允許開發人員在雲本機應用程式中新增,更改和路由它們,從而簡化了微服務的企業部署,因而廣為人知。
當將ML模型與實時交通一起部署到生產中時,就會出現ML模型的真正挑戰。

Istio以提供完整的解決方案而著稱,其中包括對“網格”內連線服務的洞察力和操作控制。Istio的一些核心功能包括:
  •   HTTP,gRPC,TCP連線上的負載平衡。
  •  具有路由,重試和故障轉移功能的流量管理控制。 
  • 甲監視基礎設施,其包括度量,跟蹤,和可觀察部件  
  • 端到端TLS安全性 –透過加密服務之間以及服務與終端使用者之間通訊的資料流來保護通訊。
  • 二進位制過程並用不同的語言編寫。
  • 當分散式微服務可能導致級聯故障時,管理 超時和通訊 故障。
  •  當微服務由多個功能或使用者操作觸發時,同時更新容器。
  • 服務網格有助於實現現代化,使組織無需重寫應用程式,採用微服務或新語言或遷移到雲即可升級其服務清單。 
  • API閘道器:無需啟動和執行Kubernetes應用程式,即可使用服務網格– Istio來衡量API使用情況。

Istio的三個組成部分:資料平面,控制平面和管理平面提供了策略驅動的路由請求以及分散式叢集的配置管理。  

 

企業AI微服務
企業AI系統中的任何預測系統都是從資料預處理,建模和資料後處理開始的一系列微服務組成的。這種體系結構需要單獨的微服務部署和流量路由。這就是Istio在Kubernetes上的位置,這樣才能提供這些功能。
以下架構演示了基於Iot的分散式AI解決方案,其中包含大量微服務,其中Istio由於以下原因起著至關重要的作用。

  • 推出新的微服務是便於安裝或拆卸的物聯網裝置和應用程式。       
  •  由於維修,推出新功能或物聯網裝置重新校準而更新了微服務。 
  • 確保物聯網資料的隱私性和機密性    

服務網格網路對於企業人工智慧AI解決方案的重要性 - datasciencecentral


Istio流量路由配置允許:

  • 透過以程式設計方式調整下游服務版本之間流量的相對權重來執行金絲雀釋出。使用Weaveworks:Flagger的開源漸進式金絲雀部署工具可以進行此類自動金絲雀部署 。
  • 在自動金絲雀部署,Flagger(Kubernetes運營商)自動迭代的部署和推廣,隨著Istio和應用網流量路由基於自定義功能普羅米修斯指標。           

服務網格網路對於企業人工智慧AI解決方案的重要性 - datasciencecentral

 

相關文章