Ocelot API閘道器的實現剖析

張善友發表於2017-11-06

在微軟Tech Summit 2017 大會上和大家分享了一門課程《.NET Core 在騰訊財付通的企業級應用開發實踐》,其中重點是基於ASP.NET Core打造可擴充套件的高效能企業級API閘道器,以開源的API閘道器Ocelot為基礎結合自己的業務特性,當天課程只有40分鐘,有很多內容都沒有展開,接下來就用一篇小文章來聊下Ocelot 的實現原理,大家在使用的過程中也可以一起來貢獻。 總體來說這是一個ASP.NET Core 高階程式設計的內容,之前在公眾號裡已經發過不少各位朋友寫的文章,今天都會在這篇文章中引用,讓你進一步深入學習。

image

 

我在github上的地址https://github.com/geffzhang 歡迎互粉,Ocelot在github的地址 https://github.com/TomPallister/Ocelot , 非常給力的是在課程當天完成了.NET Core 2.0的升級,升級過程請看https://github.com/TomPallister/Ocelot/issues/114 。昨天我花了半小時就把我的另外一個POC專案Nanofabric   https://github.com/geffzhang/NanoFabric 升級到了.NET Core 2.0, 這個POC專案也是我的分享的專案的原型,可以這麼說.NET Core 2.0 8月份正式釋出,經過3 個月時間的發展,社群生態已經都已經做好了準備,開發新專案可以採用.NET Core 2,Ocelot 是一個整合社群中眾多優秀開源專案的代表。

image

image

業務的飛速發展,產生的非常多的對外的服務介面,分散在組織的各個地方需要進行統一的管理,而且我們的環境是linux和windows的混合環境,我們的目標是統一在公司的Linux環境,.NET Core對於.NET 技術團隊來說是一個非常棒的技術,而且.NET Core本身的架構非常好,效能就更好了。

image

image

這裡列出了Ocelot目前支援的特性:

  • Routing
    • 使用者可以指定上游請求之間的對映,並將其轉發到下游服務上的不同URL。
  • Service Discovery
    • Ocelot可以檢視你的服務發現,並找到它應該轉發下游請求的服務。它可以在這些服務之間進行負載平衡。.
  • Authentication using IdentityServer
    • 您可以將端點標記為已認證,並使用IdentityServer承載標記對您的使用者進行身份驗證.
  • Authorisation using Claims
    • 如果使用 bearer tokens, 可以使用 claims 標記特定 endpoints是授權的
  • Claims Transformation
    • Ocelot提供了一種語法來轉換給下游請求,並將宣告資料新增到標題,URL引數,其他宣告等等
  • Quality of service
    • Retries, circuit breaker, timeouts etc.
  • Request / Correlation Ids
  • Caching
  • Logging
  • Custom Middleware

更詳細的內容參看文件 https://github.com/TomPallister/Ocelot/wiki 

上面介紹了Ocelot的功能特性,接下來我們進入介紹Ocelot 的實現原理剖析,核心是是ASP.NET Core Middleware 以及 ASP.NET Core DependencyInjection:

image

ASP.NET Core 傳統的ASP.NET 在架構上有很大的改進,更加的模組化,下圖形象的說明了他們之間區別,Application 和 Middleware 是平等的,比如ASP.NET Core MVC也是一個Middleware,通過Middleware這樣的結構我們非常容易的擴充套件我們的應用程式。

image

Ocelot就是使用Middleware來完成閘道器的所有功能,每個小功能就是一個Middleware,具體可以看程式碼 https://github.com/TomPallister/Ocelot/blob/develop/src/Ocelot/Middleware/OcelotMiddlewareExtensions.cs ,Ocelot 是如何把各個Middleware串起來協同完成一個API閘道器的功能。 asp.net core 非常巧妙的設計,把Middleware抽象成了一個委託RequestDelegate, ASP.NET Core 的每個 Request 都會經過每個所註冊的 Middleware,Response 也是逐一回傳,以先進後出的方式處理每一個封包:

image

具體內容參考: ASP.NET Core HTTP 管道中的那些事兒如何一秒鐘從頭構建一個 ASP.NET Core 中介軟體, 我們在Middleware的程式設計過程中需要關注HttpContext 以及管道的註冊者和構建者 ApplicationBuilder。

 ASP.NET Core 教學 - Middleware - 運作方式

ASP.NET Core 使用了大量的 DI (Dependency Injection) 設計,同樣我們在Ocelot的設計中也使用了大量的DI設計,具體參看原始碼https://github.com/TomPallister/Ocelot/blob/develop/src/Ocelot/DependencyInjection/ServiceCollectionExtensions.cs 

註冊 Service 有分三種方式:

  • Transient  每次注入時,都重新 new 一個新的實體。
  • Scoped    每個 Request 都重新 new 一個新的實體。
  • Singleton 程式啟動後會 new 一個實體。也就是執行期間只會有一個實體。

下面這張圖來自https://blog.johnwu.cc/article/asp-net-core-dependency-injection.html ,形象的演示了物件生命週期。

ASP.NET Core 教學 - Dependency Injection - 運作方式動畫

  • A 為 Singleton
  • B 為 Scoped
  • C 為 Transient

上面介紹完了Ocelot開發的基本原理,目前Ocelot 由17 個Middleware 來完成,在每個Middleware的內部實現上還有涉及到很多業務的知識,本篇文章先不做展開,後續寫具體的文章詳細解析。接下來我們來說說如何自定義擴充套件,在我們的專案中主要在三個方面進行了擴充套件:

1、自定義擴充套件API 介面驗證

image

Ocelot 預設支援基於IdentityServer4的認證,需要自定義認證,可以參考 https://github.com/TomPallister/Ocelot/pull/110,新增自定義的驗證,但是.net core 2.0 認證部分基本上重寫了。

2、自定義擴充套件下游通訊協議

image

Ocelot 預設支援Http的通訊,在我們的實際專案中有很多老的服務是RPC呼叫,使用的是私有的Relay通訊框架,在API閘道器上需要做協議轉換,自動將Http的請求轉換成Relay的tcp通訊。

3、自定義管理控制檯

image

ocelot 有管理API,可以基於管理API 做自定義的管理控制檯,github 有個 https://github.com/dbarkwell/Ocelot.ConfigEditor,這個專案實現了asp.net core mvc 的線上編輯路由。

相關文章