【ARUN】FastAPI&Vue 擁有無敵顏值且易用的全棧測試平臺! 第七彈——風險跟蹤/任務編排/資料同步監測/資料開發/程式碼統計
歷史帖
- 【ARUN】FastAPI&Vue 擁有無敵顏值且易用的全棧測試平臺! 第一彈——介面測試
- 【ARUN】FastAPI&Vue 擁有無敵顏值且易用的全棧測試平臺! 第二彈——UI 測試
- 【ARUN】FastAPI&Vue 擁有無敵顏值且易用的全棧測試平臺! 第三彈——測試追蹤
- 【ARUN】FastAPI&Vue 擁有無敵顏值且易用的全棧測試平臺! 第四彈——工作流&覆蓋呼叫分析
- 【ARUN】FastAPI&Vue 擁有無敵顏值且易用的全棧測試平臺! 第五彈——效能度量/資源探測/鏈路監控/輔助工具
- 【ARUN】FastAPI&Vue 擁有無敵顏值且易用的全棧測試平臺! 第六彈——持續測試/程式碼掃描/資料質量/日誌聚合/效能測試
前言
沒有原始碼!對測試平臺功能設計感興趣或者不知道做什麼功能的可以看下去,希望對你有點啟發 🙏
風險跟蹤
背景
在實際使用中測試中包含了大量回歸任務與其他檢查機制,僅介面迴歸任務而言目前執行的介面已經達到了 3500w+,每日場景用例執行量達 5w+,自動檢測任務總執行 50w+ ,但由於各種歷史包袱或者使用頻次,非重要功能等原因一些檢測到的風險並未及時修改而導致長時間存在,又由於未將風險關聯到人,導致風險項無法流轉追溯,所以需要一個風險跟蹤機制將問題持久化並將負責人拉入風險處理的流程內,在有空的時候主動推進,讓問題最終得到解決,避免歷史風險持續疊加導致各類棘手的問題。
功能介紹
資料看板將展示所有風險並根據風險型別 - 風險來源 - 風險名稱 - 負責人聚合, 在此可以審查系統近期捕獲到的一切異常資訊
在工作臺內可以將任務單個/批次指派給他人,可以將任務單個/批次更改狀態,可以單個/批次評論任務,可以記錄任務各個欄位的更改人 - 前後更改 diff 值 -以及持續時間
任務編排
背景
隨著公司專案越來越多,而對應的測試迴歸用例也越來越完善,但面對客戶專案上線釋出的頻率增高,尤其是臨時定版熱修的情況下,測試用例迴歸將會耗費大量時間,最終會消耗一定的時間在於等待迴歸用例的執行,為了減少這種窘況的發生,對於任務用例編排以及執行最佳化迫在眉睫,我們希望透過以下方式來減緩這種問題的情況:
- 採用更加智慧多執行緒用例編排執行用例 —— 解決耗時大的用例被同個執行緒獲取導致最終執行慢的問題
- 執行時的錯誤用例報告/剩餘佇列數展示 —— 提前暴露問題提前檢視問題所在
- 執行緒階梯下降自動重試 —— 減少併發執行帶來的用例異常問題
- 增加多佇列模式動態統計歷史不可併發用例至單執行緒佇列 —— 減少人為維護不可併發資料以及減少不可併發用例在併發下的錯誤影響
編排設計
基於貪心演算法的執行緒級別的用例編排,使用歷史執行資料根據執行緒數量動態分組執行佇列,另外對於執行用例按照用例執行時間從小打大依次扔入佇列,使得消耗時間越大的上用例都在最後,可以在有限時間內看到更多用例的執行情況;
開啟自動重試,自動重試預設採用 2 個執行緒執行,而平時用的都是單執行緒,這樣設計為了提高給到大家重試時的及時性,以及大家自己重試時的正確性;另外對於不可併發的任務,採用多執行緒執行後將會將第一次執行異常的用例落庫,並在下次執行時動態的分配到單執行緒執行佇列中,在多執行緒只任務結束後,由單執行緒執行;
資料同步監測
背景
目前透過 flink cdc 透過模擬 mysql slave 的方式訂閱 binlog 的變更消費,來做資料同步到 starrocks,但由 flink 元件複雜且不是特別穩定,有時候會出現 taskmanager 假死,binlog 資料無序消費從而造成同步資料異常的問題,現在需要一個工具可以驗證同步任務是否正常執行;
現在透過每個環境自動建立一張表,並寫入此次檢查的時間戳,下次執行時檢查 starrocks 與 mysql 中的時間戳的差值,差值則為最小的延後時間(經測試在沒有壓力的時刻 mysql 修改/增加的資料寫入 starrocks 將會非常快,幾乎無感)
功能介紹
支援公共/自定義配置環境閾值/環境忽略等配置;支援異常推送/恢復推送/失聯推送等;支援歷史檢查日誌/延後趨勢彙總/前一天的探測成功率彙總;支援遮蔽指定時間/環境的訊息;支援全環境的狀態總覽;異常推送到指定群組
歷史延遲趨勢審查
訊息聚合遮蔽/彙總
資料開發
背景
視覺化編輯 Dinky Flink SQL,並自動關聯當前業務資料庫,拖拽預覽/生成 FlinkSQL 並儲存進 Dinky,解決 Dinky 無法關聯業務庫,無法直接判斷表是否存在以及不同 FlinkSQL Diff 功能。
功能介紹
根據業務庫查詢所有表,解析 FlinkSQL 檢視已存在的表,並做視覺化編輯以及 diff 操作
程式碼統計
背景
為了統計熱點服務,聚焦核心功能以及分析人員能效的一個維度;
功能介紹
部門服務下人員提交匯總聚合展示程式碼增加/變更量
程式碼提交按照人員的排序列表以及人員最近提交趨勢
相關文章
- 全棧全平臺開源專案 CodeRiver 資料庫設計文件全棧資料庫
- 每日7千次的跨部門任務排程,有贊怎麼設計大資料開發平臺?大資料
- 大資料測試與 傳統資料庫測試大資料資料庫
- 濰坊工業園區建築能耗監測平臺開發,能源大資料系統開發大資料
- 新潮測試平臺--慎用 PRC 返回的資料 (二)
- 非同步任務編排CompletableFuture非同步
- 【編測編學】如何做好大資料測試大資料
- 全全全棧測試開發學習路線全棧
- 10370款遊戲開測,這是我們監測到的2018全年開測資料統計遊戲
- 教你幾行程式碼實現全平臺埠資料的轉發行程
- 大資料平臺開發公司有哪些?大資料
- [北京] [前端、資料分析平臺開發、全棧] 矽谷遊戲公司 Magic Tavern Hiring~前端全棧遊戲
- 智慧警務系統研發,大資料警務平臺開發大資料
- 開源專案dolphin-ASM網路資產風險監測系統ASM
- 智慧警務大資料平臺開發,資料視覺化分析平臺搭建大資料視覺化
- 大資料治理平臺有哪些價值大資料
- 拓端tecdat|Stata估算觀測資料的風險比
- 經緯恆潤智慧駕駛開發、測試評估平臺——智慧駕駛全量資料感知及分析系統
- 生產資料庫、開發資料庫、測試資料庫中的資料的區分資料庫
- 解密!傳統測試 vs 大資料測試解密大資料
- 測試平臺系列(55) 引入AceEditor(程式碼編輯器)
- 資料探勘之產品預測任務
- 開源無程式碼 / 低程式碼平臺 NocoBase 0.20:支援多資料來源
- 從業務測試需求痛點到自動化測試平臺設計開發
- 淺談資料開發神器——數棧離線開發平臺(BatchWorks)BAT
- Superset 0.37 釋出——顏值最高的資料視覺化平臺視覺化
- 能耗監測平臺系統開發方案,重工業節能減排網站搭建網站
- Python全棧開發之—redis資料庫Python全棧Redis資料庫
- 測試資料
- 低程式碼平臺--基於surging開發微服務編排流程引擎構思微服務
- 面試應該知道的任務排程平臺面試
- 測試平臺系列(71) Python定時任務方案Python
- 測試開發全棧之 Python 自動化全棧Python
- 開源公開課丨大資料排程系統 Taier 任務排程介紹大資料AI
- 什麼是大資料測試?大資料測試實現步驟有哪些?大資料
- 工廠園區能耗監測系統開發方案,線上監測平臺搭建
- 受歡迎的無程式碼開發平臺有哪些?
- [新手開發記錄] 驗證資料的測試