任務運維 | 怎麼補資料?這有一篇實踐案例
在任務運維同學的日常工作中,經常需要使用補資料功能,例如當一個新的資料開發任務提交上線後,需要將歷史的資料也能寫入對應的時間分割槽;或者當發現某個任務產出資料有誤時,需要重新重新整理資料,這時候也會需要用到補資料功能。
透過本篇文章,你能夠收穫:
瞭解補資料的場景和流程;
掌握補資料的步驟和內容,體驗Easydata補資料的產品功能。
01 實踐內容
1.1 場景說明
假設你是一名勤勤懇懇的資料開發兼運維同學,今天早上如往常一樣登陸平臺檢視任務運維情況,突然收到來自資料分析師的一條資訊,對方表示今天有一個重要報表突然沒有產出資料,需要你幫忙緊急排查問題。
你連忙定位到具體任務,再根據血緣定位上游任務,經過一番排查與操作,發現原來是ods層的有一個開發同學對錶進行了變更,原先依賴的ods表已經不再產出,於是你雖然抱怨上游開發的粗心大意,但仍然吭哧吭哧認真地把所有相關下游任務程式碼改好並重新提交上線。但你的任務不僅是把下游任務的程式碼編輯完成,你還需要把昨天的資料恢復正常,於是你在運維中心的任務詳情頁面,點選了“補資料”按鈕……
1.2 實操階段
(1)建立補資料任務
進入任務運維中心,補資料入口有三處:分別是任務列表的右側操作欄,可以支援單個任務補資料;任務列表的左上操作按鈕,可以支援批次補資料;以及任務詳情頁右上角支援單個任務補資料。
本次實踐帶大家體驗批次補資料的功能,點選任務列表,點選上方“批次補資料”按鈕,即可進入批次補資料頁面:
下游任務選擇完成後,進入配置補資料設定的頁面,配置項都已係統預設填充,本次實驗需要體驗通知功能,因此請確保通知條件的三個勾選項均已被勾選、通知物件為實驗者本人,通知方式需至少勾選郵件、POPO之一。
(2)檢視補資料任務詳情
點選建立補資料任務後,頁面自動返回補資料例項運維列表,使用者可以檢視補資料任務進展、對補資料任務進行暫停、終止等操作:
(3)補資料任務運維
讓我們回到本次實踐場景中。
你建立完補資料任務後,終於舒了一口氣,想著終於找到了問題,還算是有驚無險,但是萬萬沒想到緊接著就收到了來自運維中心的報警資訊:
你趕緊點選連結,回到任務運維中心,連結自動跳轉到了失敗例項的詳情頁面,原來是最下游的任務出現了問題。於是你點選節點狀態旁邊的“放大鏡”圖示,進入智慧診斷頁面
在智慧診斷頁面顯示,Hive語法錯誤,需要檢查程式碼。
於是你來到離線開發,重新檢視程式碼,發現是在剛剛改程式碼的時候,不小心寫錯了一個欄位,你這才想起來,剛剛修改程式碼的時候,匆匆忙忙之中忘記先在開發模式試執行,竟然沒有測試就直接就把程式碼提交到了線上!你趕緊把程式碼重新改好,並測試了節點,在測試透過後將任務重新提交上線。
你的工作還沒有完成。修改完程式碼後,最後還需要回到運維中心,將剛剛失敗的補資料例項重跑。
(4)補資料任務完成通知
點選執行後,例項開始重跑。在等待幾分鐘後,終於,系統再次發來通知,宣告這次資料補救行動圓滿結束,撒花。
02 小結
“補資料”是任務運維中心十分重要的功能。目前產品能夠支援單個任務補資料與批次補資料,由於有些任務的上下游鏈路十分複雜,為方便使用者快速選擇需要補資料的任務和節點,產品也支援流程檢視的補資料功能。感興趣的同學歡迎點選原文連結瞭解產品~
來自 “ 網易有數 ”, 原文作者:露亞;原文連結:http://server.it168.com/a2023/0323/6795/000006795672.shtml,如有侵權,請聯絡管理員刪除。
相關文章
- 【DB】有贊資料庫自動化運維實踐之路資料庫運維
- 任務運維和資料指標相關知多少?運維指標
- 資料庫智慧運維探索與實踐資料庫運維
- 資料庫運維 | 攜程分散式圖資料庫NebulaGraph運維治理實踐資料庫運維分散式
- 專案任務與運維任務的衝突運維
- 如何運維多叢集資料庫?58 同城 NebulaGraph Database 運維實踐運維資料庫Database
- 案例實踐|Apache Pulsar 在移動雲智慧運維平臺的實踐Apache運維
- 大資料運維工作怎麼樣?都要什麼技能?大資料運維
- 案例|政務大資料平臺資料安全建設實踐大資料
- 大資料運維能做什麼?有什麼工作職責?大資料運維
- 一篇美創科技“中國政務雲資料安全領導者實踐”案例,分享給大家
- 資料探勘實踐(金融風控)-第五次任務
- B站運維數倉建設和資料治理實踐運維
- 零基礎怎麼學Linux運維?學習Linux運維有Linux運維
- 資料庫自動維護任務的管理資料庫
- 資料探勘實踐(金融風控)-第四次任務
- RabbitMQ叢集運維實踐MQ運維
- 阿里海量大資料平臺的運維智慧化實踐阿里大資料運維
- JavaScript有同步任務和非同步任務,瀏覽器是怎麼處理的?JavaScript非同步瀏覽器
- mysql運維案例MySql運維
- 轉:基於Spark的公安大資料實時運維技術實踐Spark大資料運維
- 資料庫實驗室挑戰任務-初級任務資料庫
- 什麼是運維?怎樣快速做好運維工作?運維
- 彼得.德魯克《管理:任務、責任、實踐》
- 快收下這份“資料庫運作實踐”秘製口訣資料庫
- 函式計算自動化運維實戰1 -- 定時任務函式運維
- 該怎麼解決運維定位服務故障問題?運維
- 資料運營為什麼這麼火爆?資料運營如何開展?
- ELK在大資料運維中,有哪些作用?大資料運維
- 分散式資料庫運維有啥特殊的?分散式資料庫運維
- 案例解析 | 浙江省某廳局政務資料安全治理實踐
- 怎麼學習雲端計算?雲端計算運維和傳統運維有何區別?運維
- HTTP請求報文有哪些組成部分?linux運維運維知識怎麼樣HTTPLinux運維
- 《管理:任務、責任、實踐》讀書筆記(3)筆記
- 《管理:任務、責任、實踐》讀書筆記(2)筆記
- 《管理:任務、責任、實踐》讀書筆記(1)筆記
- 雲端計算運維與傳統運維工作有啥不同?需要什麼資質?運維
- 中通訊息服務運維平臺實踐(已開源)運維