資料治理帶給我了什麼收穫?

qing_yun發表於2022-09-13

文章來源:微信公眾號“與資料同行”;作者:傅一平

在未從事企業資料治理之前,自己雖然已經進入了公司管理序列,但骨子裡仍然是個技術人員,我對於繼續從事報表,取數,BI,資料倉儲,資料探勘等工作頗為自信。偶然的機會開始做企業資料治理,才發現開啟了另一片天地,雖然只做了短短一年時間,但資料治理過程中帶給我的別樣的收穫,卻是以前的10年都難以獲得的,今天就跟大家聊一聊。

第一,跟頂尖人物學習

井底之蛙大家都聽過,但任何一個人任何時候,其實都處於井底之蛙狀態,我們成長的過程,就是不斷跳出一口井跳進另一口更大井的過程。以前剛進公司的時候,我從師傅身上學,後來做取數報表了,就從業務人員身上學,再後來做資料倉儲,則從專案經理身上學,再再後來做管理了,基本就不學了,因為這個時候,更多的是跟員工溝通,更多的是輸出而不是輸入。

企業資料治理跟資料技術工作有一個很大的不同,就是經常要跟領導互動,因為企業資料治理涉及到公司組織、機制、流程的變更,這意味著經常要跟老闆彙報,接受指示,然後做事,然後再彙報,如此週而復始,雖然壓力有點大,但潛移默化中會受到老闆的影響,比如很多事以前自己不敢做,但老闆就能給你一些勇氣,後來真做了,發現也不是想得那麼困難。跟公司牛逼的人交流並獲得反饋糾正的機會,機會還是很難得的,

很多人當了領導一下子感覺氣質都變了,格局變大,不能說是突然的爆發,而是周圍的環境發生了巨大的變化所致,有句俗話說得好,你周邊人員的平均水平,基本就代表了你的水平,環境對於人的馴化還是非常厲害的。這讓我想起了進化論,你不願意跟著改變,就只能不進則退。

第二、超越技術的束縛

以前剛接觸企業資料治理的時候,總覺得組織、機制和流程諸如此類的工作跟技術搭不上邊,挺抗拒這種虛頭巴腦的工作,甚至會擔心會荒廢自己的專業,這是每個技術人員轉型管理中都會碰到的挑戰,我們往往只有一種武器,總想著用技術改變世界,“手裡拿著錘子,看什麼都像釘子”。

我雖然職務上已經是管理人員,但其實還是技術人員的心,對外體現出來的工作方式就是對技術喜歡追根究底,但對管理就沒什麼想法,跟著公司原有的節奏走吧,不大會提什麼意見或建議,但從事了企業資料治理工作後還是發生了很多改變。

在推動企業級資料治理組織建立過程中,我不得不深入的去研究華為的資料之道,DAMA中關於組織設定的建議,然後結合公司實際給出具體的方案,這讓我對於組織的力量有了更深的認識。

我們以前從某領域採集資料溝通成本偏大,但當企業資料治理組織建立後,領域的態度就發生了變化,因為企業資料治理團隊某種程度上代表了公司,這樣跨部門協同的效率就順暢了很多,開句玩笑話,我們前5年為了跨部門資料採集所做的各種努力,還不如組織架構成立幾個月後來得多,這何嘗不是一種生產力,組織架構決定系統架構,也不是開玩笑。

企業資料治理團隊成立後,我順勢也調整了內部的分組結構,從資料中臺中剝離出部分人員成立了新的資料治理組,同時調整合作夥伴等相關資源配置,透過大半年的努力,新的資料治理組已經為資料團隊開闢出了一條新的跑道。

為了確保跨部門協同的成果能固化下來,我們又不得不去考慮擬定相關制度,重新梳理相關流程,然後跟各個利益相關部門去談判,如此迴圈,最後再落到系統層面,在這個過程中,我們必須去學習流程的梳理方法,能夠擬定流程梳理的模板,然後安排相關方去填充相關內容,再從流程中發現不適合的環節,然後給出精簡的建議,比如透過開放流程的最佳化,我們將開放時間縮減了很多,而這靠技術往往是解決不了的。

企業資料治理工作讓我體會到了組織、機制及流程的價值,現在會主動去研究華為的流程管理,買了端到端流程管理的書來學習,在我的書單中裡又增加了一種新的型別。當然組織和流程比技術複雜的多,畢竟前者是對著人,後者只是對著機器。

第三、理解中庸的藝術

很多年前突然有點喜歡上了國學,其中有個關鍵詞叫中庸。

儒家的四書之一《中庸》這麼解釋中庸,中庸不是什麼平庸,更不是搞中間派,而是不偏不倚,極致完美的狀態,《登徒子好色賦》說那美人的臉蛋和皮膚“著粉則太白,施朱則太赤”,這才叫中庸。

老子的《道德經》第四章也提到了類似的觀點:“道衝,而用之或不盈。淵兮,似萬物之宗。挫其銳、解其紛、和其光、同其塵。湛兮,似或存,吾不知誰之子,象帝之先”

什麼意思呢?

道是陰陽兩者相互中和,其作用無窮無盡,其源深,淵博好像萬物的宗主,它鋒芒不外露,解除紛憂,在光明之處便與光榮和,在塵垢之處便與塵垢同一。其深遠幽暗好像無處不在。我不知它是從何而來,在象帝之前便已存在。

這章的核心就在“衝”字,“衝”字,兩點一箇中字,就是指陰陽兩者的相互中和,也就是相輔相成,相互作用,相互轉化,形成動態的、和諧的、共贏的世界,這其實就是中庸。

中庸代表了世界執行的一種規律,我們不談太遠的東西,就談資料技術吧,資料技術的發展也是一個分分合合的過程,最開始資料是分散的,然後資料倉儲出來搞集中,然後發現非結構資料來了,然後資料湖再集中,現在發現無論是資料倉儲、資料湖都太集中了,喪失了靈活性,然後資料倉儲時代搞了個資料集市來中和,資料湖時代開始提出資料編織的思想來搞更靈活的集中,資料網格則要搞領域驅動的資料微服務。

企業級資料治理要做好,最大挑戰也在這中庸兩字。

現在很多企業的資料治理,都是奔著解決資料孤島問題去的,但大家會發現要強行推行資料集中化,阻力非常大,效果也不一定能達預期。 如果企業管控力很強,資料的確集中了,但活力也沒了,大多企業則處於集中化的過程中,也都在糾結集中化的尺度。

我認為合理的資料集中化,一定要回歸業務的初心,一定要具體問題具體分析,一定是權衡利弊給出的中庸的結果,這是我在推進企業級資料治理中的最大感受。

比如企業資料採集要不要集中,很多人肯定說要集中啊,但答案是不一定。每個領域也有自己的子域,子域採集完後給領域歸集,企業級資料採集直接從領域採集也許效率更高。

但這意味著每個子域都要有自己的採集工具,企業如果不允許子域重複建設,搞個核彈ETL團隊去採集,可能會發現各種子域源端不適配,各種源端業務不理解,各種跟源端廠家的糾纏,那麼到底誰來為子域的採集效率負責?但如果仍然讓子域來建,是否就違背了集約化的原則?

因此,企業資料治理組織必須結合實際情況給出中庸的答案,比如讓領域有權利建ETL,但要領域自己收口,同時跟企業ETL資料字典打通,並且企業ETL要開放能力給子域整合,從而在保持靈活性的同時發揮出集約化的價值,華為在數字化轉型之道中給出了服務化的解決方案,但服務化的實施難度其實很高,一不小心就搞成了形式主義。

又比如企業資料開放中效率和安全的矛盾如何解決,肯定不會有絕對的方案,但一定有中庸的方案,怎麼箇中庸法呢?首先可以給資料分層分級,不同的級別走不同的管理流程,其次有些審批可以去掉,改成事後審計或者事後報備,最後要求安全部門的KPI不僅要背安全指標,還要背資料開放的效率指標,這樣大家成了利益共同體。

我們起步企業資料治理的時候,並沒有很好的理解這一點,直接寫集中化方案上會,那就會有很多的爭議,後來發現別人說得也在理,我們嘴上所說的大道理,比如企業全域性利益最大化,其實並沒有什麼實際的依據。

隨著企業級資料治理工作的深入,我們也開始學習從正反兩方面思考問題,每次出資料治理的方案,無論是在啟動時、過程中或者上會前,都會提前徵集各部門的意見,對反饋的意見進行認真研究和回覆。

我就有幾次拉著雙方領導對齊意見的經歷,其實大多的爭議都是資訊不對稱造成的,這種資訊不對稱一旦上會就只能靠老闆一錘定音,但如果我這個牽線人能夠提前做出中庸的方案,讓雙方在底下就達成一致,我想企業的效率會更高一點。但要做到這點的確是很難的,因為每個局中的人都有自己的難處,或者,他們並不會無緣無故的信任你。

無論如何,企業資料治理讓我有機會(或者強迫我)去更多的理解別人的想法,每次調查研究後都會發現,別人碰到的情況比你想像的要複雜的多,因此一定要有敬畏之心,多向領域學習,不要太理想化,把握好那個中庸的尺度。

第四、從OLAP到OLTP

在推進企業資料治理的過程中,我們接到了一個重大的主資料課題,即要實現A資料在各個領域的統一管理,公司要求建設主資料管理系統,在整合歸集各領域A資料的基礎上,直接對接交易系統提供主資料服務,這是一種比較激進的主資料管理方式。

我們以前只做OLAP系統,現在要負責OLTP系統建設,而且比OLTP系統更OLTP,因為還要進行跨域的主資料服務支援,複雜性超過了以往任何一個專案,為了達成這個目的,我們開展了很多從0到1的工作,包括:

1、組建橫跨多個部門的專案團隊,涉及的各領域的業務,技術,架構人員近幾十號人。

2、給出了主資料的標準規範,包括編碼、命名、欄位等等。

3、給出了主資料的整合方法,包括採集、清洗、整合等等。

4、牽頭各部門進行主資料涉及的所有業務流程的梳理,並對主資料錄入進行了規範。

5、結合梳理的業務流程,調研了跟主資料相關的所有系統,給出了服務子系統和分析子系統協同的集中化的主資料管理系統架構,同時針對外圍系統改造給出了標準化的介面規範。

6、給出了服務子系統和外圍各系統確保資料一致性的策略,同時給出了服務子系統的連續性、高可用保障的方案。

這個專案組織複雜,人員複雜,流程複雜,架構複雜,系統複雜,資料複雜,後續運營估計更復雜,但依託於企業級資料治理組織,我們還是能真正的組織起來並進行運作,這些對於我來說是一種難得的經歷,更是一筆財富。

第五,與大家一起共舞

資料治理起步的時候雖然可以靠著建章立制推著往前走幾步,但這種推進方式管理成本太高了,而且速度很慢,因為不可能什麼事情都放到檯面上去彙報,老闆也沒那麼多時間。

這個時候信任就很重要,比如關於資料開放審批,如果A部門信任你,覺得交給你靠譜,就可以採取報備的方式,不信任你,就要審批,報批和報備,雖然僅一字之差,但效率差得很遠。

企業資料治理創造了一個與各部門協同的舞臺,這是大家形成信任關係的前提,但更重要的是以身作則,比如自己沒做好,就沒資格去要求別人。

1、每次彙報前,我們都要徵求各部門意見,由於是要上會的,大家一般都會比較重視,如果我們認真的回答了問題,就會潛移默化的影響別人對我們的態度。

2、每次彙報時,大家都會交換意見,而我們的表現都在潛移默化的影響別人的看法,比如你在會上總是邏輯嚴密,大家尊重你的意見,那麼下次別人跟你交流就會多一分尊重,如果你在會上總是用資料說話,那下次別人跟你交流就會有更多的專業信任,如果你在會上總是主觀的判斷或猜測,那就是很大的減分項。

3、每次彙報後,大家都要協商如何推進相關工作,在這個過程中,我們一般會提供各種資料治理的工作指導,比如提供資料盤點的模板,流程梳理的模板,解答工作推進中的各種問題,如果我們乾的還不賴,那也會形成更多的信任關係。

企業資料治理讓我認識了更多的同事,也讓更多的人認識了我,正如我寫文章給讀者一樣,如果我每次都很認真的寫和做,大家也會逐漸增加我的信用積分,當積攢了足夠的信用積分後,很多的資料治理工作就能更順利的開展。

往大了講,企業資料治理組織的使命就應該是創造一個良好的資料生態,大家都能從中獲取源源不斷的支援,而我們卻像不存在一樣,把自己做沒了就是最好的狀態。這有點像老子所說的道,道生成了天地,天地撫育了萬物,道對大家是不可見的,但卻是最長生的。

第六,團隊正在成長

開始做企業資料治理的時候,團隊其實也沒什麼人有經驗,每次領導佈置完工作,大家都有點慌,但團隊裡都是一群想幹事的人,因此會想盡辦法的去解決問題,我經常正襟危坐的在那裡分解工作,雖然有時也會感覺無助,但發現自己如果放下包袱,抱著學習的心態去做事,那麼很多所謂的難事都只是自己的歷史給自己設定的包袱而已。

比如第一次辦公會開完後要進行企業資料目錄的梳理,然後需要我們儘快整理出梳理的模板以便各個部門能開展工作,但這活其實我們自己也沒幹過,因此大家一起查詢資料,一起討論,經過2天的不停討論和修改,終於制定出了資料目錄梳理的四個模板,後面我們還總結出了“5-5-40”資料目錄盤點大法。

比如做主資料時需要進行業務流程的梳理,我們必須先給出流程梳理的模板,否則各部門梳理的結果會很亂,然後我們就臨時抱佛腳的去研究以前一份公司的諮詢彙報材料,然後改良了一下,最後各部門基於這份模板梳理出了各個領域的業務流程,還是很清晰的,可以直接作為需求的輸入,這次梳理讓大家對於流程有了更深入的認識。

比如由於所有決策都需要上會,這對PPT的撰寫提出了較高的要求,特別是參會的人員專業背景還不一樣,因此必須要用通俗的語言把一個複雜的事情用PPT的形式表述清楚。以前這類PPT大都是自己主刀,後來發現材料有點多,因此總結了寫PPT的套路,鍛鍊團隊一起寫,現在大家在邏輯、表達上有了很大進步,彙報成功後就會很開心。

以前聽別人說起資料治理,總會提到老闆不重視,沒人沒資源,成果不顯現等問題,的確,這些靠個人是很難改變的,但一旦有機會去做就盡力而為吧,我們先不說什麼實現宏大的目標,但在這個做的過程中自身獲得的成長,比如有機會去實踐下流程梳理,就已經很賺了。

與大家共勉!

來自 “ 微信公眾號“與資料同行” ”, 原文作者:傅一平;原文連結:https://mp.weixin.qq.com/s/DxhpCAMXfO1g0ZfClJUO9A,如有侵權,請聯絡管理員刪除。

相關文章