荷蘭銀行實施大規模DevOps經驗
ABN AMRO是荷蘭的一家銀行,歷史悠久,可追溯到 19 世紀中葉。。在過去的 25 年中,我們發展了深受客戶重視的數字渠道,並已成為主導渠道。2015 年,歐盟為歐洲銀行透過PSD2 指令透過 API 向第三方開放支票賬戶資訊設定了最低要求。ABN AMRO 透過建立更廣泛的企業對企業 API 渠道,遠遠超出了這些要求。我們還設立了一個外部開發者門戶,以促進第三方利用我們的金融服務。當然,這一切都需要一個組織良好的內部 IT 組織來支援。
我的開發服務部門的職責是透過持續整合/持續交付 (CI/CD) 設施為開發人員提供便利,這些設施必須滿足開發人員要求、監管要求和非開發人員利益相關者的要求。在實踐中,這意味著協助開發工具並支援許多特定平臺以建立可追溯性和透明度以及相關報告。
下面的文章解釋了一些起點以及我們如何設想在企業範圍內支援 DevOps。
文章內容:
集中組織和基於產品
10 多年前,在合併期間,我被要求檢視組織的支援和開發工具。ABN AMRO 那時仍然是一個以專案為導向的組織,其中 Dev 和 Ops 組是分開的。根據以往的經驗,我們已經很清楚,主要的工具,包括版本控制、原始碼質量控制、管道支援和工件管理,都應該集中管理。這主要是為了滿足非開發人員的要求,例如可追溯性和集中報告的能力。至少應遵守最低限度的統一性。另一個重要的選擇是產品定位。過去在又一次重組後面臨孤立的原始碼儲存庫,我很清楚按照組織結構組織開發資料並不是一個好的選擇。由於正在開發的東西的生命週期通常比開發者長得多,因此選擇了基於產品的方法。
快進到今天,該組織正在(正在)轉變為 DevOps 結構,大約有 400 個開發團隊負責開發和運營。10 年前只有少數人的工具支援已經發展成為開發服務,有 200 多人支援更多。這些包括:
- 軟體開發標準和指南
- 所有與開發相關的工具
- 內部和外部開發人員門戶
- 基於設計模式的程式碼初始化
- 管道的標準構建塊和常用技術的模板管道
- CI/CD 輔導
- 為許多供應商特定平臺提供託管服務並支援技術行會
- 作為開發工具的一部分,從一開始就使用了 Landscape Nexus Repository Manager <link>,隨後是 Nexus Lifecycle。
IT4IT 資料模型
缺少原始碼、開發資料、CI/CD 資料和服務管理資料之間的結構關係,隨著我們以產品為導向,管理人員圍繞開發資料發展,顯示使用哪些工具開發了哪些應用程式。這包括 Bitbucket、Jenkins、SonarQube、Fortify、Nexus Lifecycle 和 Nexus Repository Manager。在服務管理方面,開發了一個應用程式組合來支援常規服務管理流程以及監管和企業架構流程。
我還目睹了一種反覆出現的模式,即主要的生命週期管理和基礎設施專案查詢應用程式的詳細資訊。時不時地,開發組織不得不將技術細節收集到大型 Excel 表格中,以滿足那些重大專案或計劃的資料需求。在專案結束時,資訊丟失了,在下一個專案中重複了這個練習。我們的應用工程資料根本無法以結構化的形式提供,開發團隊以外的利益相關者也無法訪問。
與此同時,市場上出現了IT4IT倡議。這個概念強化了整個 IT 價值鏈中的資料應該被更好地定義以支援任何規模化方法的想法,無論是大規模敏捷、大規模 DevOps 還是大規模數字化轉型。敏捷和 DevOps 轉型中的一個風險是管理層無法瞭解正在發生的事情。
工具入職
CI/CD 環境最初包括 Bitbucket、Jenkins、SonarQube、Nexus Repository Manager,最重要的是我們管理所有相關訪問組的中央 LDAP。需要技術問題來初始化對 Nexus 儲存庫管理器中儲存庫內的適當儲存庫和路徑的訪問。
隨著 Fortify 和 Nexus Lifecycle 的引入,很明顯需要在另一個級別上進行引導。雖然我們的應用程式組合假設應用程式是一個完整的解決方案,包括所有軟體和基礎設施,但 Fortify 和 Nexus Lifecycle 等工具則著眼於軟體/可部署單元。我們做出了一些與命名約定相關的半心半意的決定,這些約定將載入的專案與總體應用程式聯絡起來。將 SonarQube 加入相同的可部署單元是在管道中自動完成的。如果向 SonarQube 提供帶有未知識別符號的掃描結果,它會動態地在資料庫中建立一個新條目。
應管理層的要求,我們部門的另一個團隊針對一些 CI/CD/DevOps 指標和程式碼質量建立了儀表板。為此,建立了另一個管理來連結團隊、應用程式和軟體元件。此應用程式關聯並收集了來自 SonarQube、Fortify 和 Nexus Lifecycle 的資料。
連線點
IT 的主要目的是實現公司的業務目標,但圍繞 IT4IT 的一些概念側重於 IT 的需求。在這個過程中有一些巨大的改進,以及相關的業務目標。
大多數開發工具起源於單個團隊-單個專案的情況,企業支援大多是事後才加入的。從數字產品的角度來看,與單個產品或產品中的單個元件相關聯的工程資料分散在許多面向功能的工程工具中。沒有明確標識數字產品或數字元件的中央管理機構。它也不會以一致且技術中立的方式交叉引用工具中的相關工程資料。在設計時也沒有對數字產品組合的結構化洞察。我們也缺乏對操作配置項與其來源的工程資料之間的關係的理解。
開發團隊的自助服務設施不應僅限於入職,而必須涵蓋數字產品及其元件的整個生命週期。這些設施應提供完全直通式處理,以避免開發團隊和支援工具的團隊之間出現任何不必要的依賴關係。
從價值鏈/供應鏈的角度來看,瞭解我們為客戶提供的數字產品的構成更為重要。一個 DevOps 團隊可以完全負責其產品的所有方面,這是一種錯覺。從敏捷的角度來看,完全獨立是理想的,但在企業層面呢?它根本無法擴充套件。而且,就人力資源而言,這將是非常昂貴的。
瞭解產品組成以及上游和下游依賴關係對於大規模實施敏捷或 DevOps 至關重要。
理論上的解決方案
鑑於具有所有權的概念級別(產品組合)和工程級別(DCI),包括組合關係,團隊之間出現了生產者-消費者關係。
DCI 按型別分類,對於每種型別,都標識了必需的資料元素(這意味著必需的工具)。然後,確定這些元素的內部關係。例如,根識別符號與派生識別符號。
例如,基本識別符號為組 ID、工件 ID 和版本 (GAV) 的 Java 元件在 POM.XML 檔案中定義。在這種情況下,對於 ABN AMRO 建立的元件,其他命名約定適用。必須使用 SonarQube、Fortify、Nexus Lifecycle 和 Nexus Repository Manager。這些工具中關聯物件的識別符號來自 GAV。例如,SonarQube::Project、Fortify::Application、NexusLifecycle::Application、NexusRepositoryManager::Artifact 的識別符號。
目前的解決方案
首先,我們將自己限制在一種產品、應用程式和一小組 DCI:僅應用程式和軟體元件。我們現在也忽略了多個版本。
在產品組合級別,所有應用程式都已經在概念級別 (S2P) 註冊,封裝了應用程式的整個生命週期。在工程層面(R2D),大致做了以下工作:
- 對於現有應用程式,會建立相應的 DCI。
- 提供以下直接處理應用程式載入服務:為名為<application acronym>的新應用程式建立 CI/CD 環境
- 對於新的自主軟體元件,提供以下服務:將 元件<元件列表>新增到應用程式<應用程式首字母縮略詞>
請注意,此上下文中的“應用程式”是完整的終端使用者解決方案,包括所有必需的軟體和基礎設施。
對於場景 2,這意味著在服務管理中建立了 DCI 記錄,並且將觸及應用程式需要載入的任何工具。例如:
- 在 LDAP 中建立特定於應用程式的訪問組
- 在適當的 Nexus Repository 儲存庫中建立特定於應用程式的訪問路徑
- 在 SonarQube 中建立應用程式級訪問
服務管理中已知擁有此應用程式的團隊成員將自動獲得訪問許可權。
對於場景 3,這意味著可以新增新的軟體元件列表,並且對於每個軟體元件,都會建立一個 SonarQube 專案、Fortify 應用程式和 Nexus Lifecycle 應用程式。此外,還會在服務管理中建立新的 DCI 記錄。同樣,為正確的團隊成員授予對新建立專案的適當訪問許可權。
服務管理現在儲存應用程式和軟體元件的 DCI 記錄,以及父 DCI(現在的應用程式)和它們的子 DCI(現在的軟體元件)之間的關係。父 DCI 是指應用程式組合管理。
每個 DCI 註冊器:
- 是識別符號
- 使用者需要的其他輸入
- 哪些工具已載入
- 入駐狀態
因此,透過使用約定,公司中的任何利益相關者都可以找到工具中相關工程資料的給定數字產品。
技術實現
解決方案的架構應支援 ABN AMRO 使用的所有 CI/CD 工具。所有 CI/CD 工具都由多個團隊在一個部門管理,每個團隊負責多個工具。因此,該架構有兩個不同的層:一箇中央服務,它公開一個供客戶端程式使用的 API。
對於每個工具,都有一個特定的服務將中央服務期望的 API 轉換為特定於工具的 API 呼叫。每項工具服務都將我們的 IT4IT 運營模型(如我們的服務管理中所表示的)轉化為特定於工具的概念,反之亦然。例如,我們要求到SonarQube服務和Nexus倉庫管理器服務並重:ç reate一個新的應用程式CI / CD環境 與給定的名稱。對於 SonarQube 和 Nexus Repository Manager,這個請求意味著不同的東西。對於 SonarQube,基於這一請求進行了 16 次 API 呼叫。
目前,我們已經在我們的內部網上為上述兩項服務實施了一個客戶端流程和兩個請求表。表單根據團隊成員資格和應用程式所有權過濾選項列表,如服務管理中所知。從技術角度來看,每項服務都實現為一個容器,並部署在同一個 k8s(Kubernetes)叢集上。
三個團隊現在參與提供這些服務,這些服務涵蓋了 ABN AMRO CI/CD 工具的大部分。
相關文章
- 大規模實施 OKR 的成功經驗OKR
- SpareBank網路銀行實現微服務DevOps經驗分享 - Somaiah微服務devAI
- 銀行基於雲原生架構的 DevOps 建設實踐經驗架構dev
- MPP平臺實施工具,實施經驗+銀行資料倉儲模型建設經驗泛談模型
- 大規模執行 Apache Airflow 的經驗教訓 - shopifyApacheAI
- 法蘭西銀行:批發型中央銀行數字貨幣實驗報告
- 使用Grail進行大規模基礎設施管理AI
- 荷蘭阿姆斯特丹大學:研究發現肥胖會改變大腦神經元
- 銀行規模化敏捷的窘境敏捷
- 國企&銀行面試經驗面試
- 中國銀行DevOps標準化實踐dev
- 大規模 K8s 叢集管理經驗分享 · 上篇K8S
- 彩虹排序 | 荷蘭旗問題排序
- Criteo在大規模資料工程最佳化上經驗 - Nam
- DevOps落地實施要有哪些支柱?dev
- 某大型能源公司RPA實施經驗分享
- 清軟英泰PLM實施經驗談
- 荷蘭銀行構建可擴充套件的後設資料驅動的資料攝取框架套件框架
- 荷蘭商業銀行調查顯示,公眾對加密貨幣的興趣未來將翻倍加密
- 辛巴威儲備銀行研究區塊鏈實施區塊鏈
- 荷蘭加密貨幣許可證加密
- 實施DevOps安全策略清單dev
- 谷歌大腦神經機器翻譯大規模實驗:尋找最優的超引數組合谷歌
- 荷蘭伺服器有哪些優勢?荷蘭伺服器又該如何選擇呢?-VeCloud伺服器Cloud
- 荷蘭國家統計局:荷蘭特斯拉車主被開超速罰單比例高達75%
- Grail:Uber是如何管理大規模基礎設施的AI
- 將DevOps視為哲學——實施DevOps的絕佳方式dev
- DevOps實施手冊 在多級IT企業中使用DevOpsdev
- 百分點大資料技術團隊:Elasticsearch多資料中心大規模叢集的實戰經驗大資料Elasticsearch
- Watchdogs利用Redis實施大規模挖礦,常見資料庫蠕蟲如何破?Redis資料庫
- 在連結串列上實現 Partition 以及荷蘭國旗問題
- Dealroom:2021年荷蘭教育科技報告OOM
- 迴圈不變數之荷蘭國旗變數
- 微眾銀行:2020銀行業使用者體驗大調研報告行業
- 2010.03.23 MSN群討論之服裝行業的ERP專案實施經驗分享行業
- 軟體測試案例實踐:銀行如何做大規模自動化測試?
- 銀行業IT服務連續性體系規劃與災備自動化切換經驗行業
- 恆訊科技介紹:荷蘭Serverius資料中心Server