亞信安慧AntDB資料並行載入工具的實現(二)
3.功能性說明
本節對並行載入工具的部分支援的功能進行簡要說明。
1) 支援表型別
並行載入工具支援普通表、分割槽表。
2) 支援指定匯入欄位
檔案中並不是必須包含表中所有的欄位,使用者可以指定匯入某些欄位,但是指定的欄位數要和檔案中的欄位數保持一致。
3) 支援匯入部分記錄
並行載入工具支援指定Where條件,只將符合條件的記錄匯入到資料庫中。
4) 自動生成序列欄位值
本工具支援自動生成序列欄位值,有些表的欄位設定了Default值為序列,使用者可能需要資料庫自己生成,並沒有包含在檔案中。
當該欄位為非分片鍵時,我們可以使用資料庫自有的功能,在插入時自動生成該欄位值。但是當該欄位為分片鍵時,我們需要先在載入工具中生成該值,然後根據該值進行分片,插入到對應的DN節點。
5) 無分片鍵檔案匯入
當檔案中不包含分片鍵,並且沒有Default值時,載入工具將該欄位置為Null計算並插入相應節點。
6) 觸發器
當匯入的表包含觸發器時,並行載入工具並不會做特殊的處理,當觸發器涉及非本資料節點時,並行載入工具並不支援。例如一個表的觸發器,該觸發器會插入另外一張表,但是該表分片與原表不同,此時將會涉及多個資料節點。
7) 不支援輔助表
AntDB有輔助表功能,用來最佳化SQL語句的效能,該表中存放資料表的相應資料。當資料表有輔助表時,並行載入工具只能將檔案匯入到資料表,並不會修改相應的輔助表。
8) 支援編碼轉換
並行載入工具支援資料編碼轉換,在檔案中資料和資料庫的編碼不同時,工具會對檔案中資料編碼的轉換之後再插入資料庫。
4.效能
並行載入工具相比Copy命令,有效提升了資料載入的效率。由於表欄位的個數、型別及資料的不同,並行載入工具相對Copy命令所提升的倍率並不完全相同。下面以TPCC的資料匯入進行效能的對比。
1000倉的資料,需要匯入到表Bmsql_Stock的記錄有1億條,資料檔案Stock.csv檔案的大小為29GB。測試的AntDB叢集有2個DN主節點。在此場景的測試中,載入效率提升了7倍左右,載入速度對比圖如下所示:
Bmsql_Stock表結構如下:
5. 總結
本文介紹了AntDB並行載入工具的實現方式和使用方法,透過多執行緒的方式實現並行處理檔案資料,並載入到AntDB資料庫,有效提升了載入的效率。
來自 “ ITPUB部落格 ” ,連結:https://blog.itpub.net/70026696/viewspace-3007746/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 亞信安慧AntDB MTK資料同步工具之資料稽核
- 亞信安慧AntDB:AntDB-M後設資料鎖(五)
- 亞信安慧AntDB:AntDB-M後設資料鎖(十)
- 亞信安慧AntDB資料庫與流式計算資料庫
- 亞信安慧AntDB的進步之路
- 亞信安慧AntDB資料庫——實時流資料處理的先鋒資料庫
- 亞信安慧AntDB:為資料安全和穩定而生
- 亞信安慧AntDB:靈活處理資料典範
- 亞信安慧AntDB探索資料庫更多可能資料庫
- 亞信安慧AntDB的全方位支援力
- 亞信安慧AntDB的多維度支援
- 亞信安慧AntDB領航分散式資料庫的突破之路分散式資料庫
- 亞信安慧AntDB資料庫助力智慧高速建設資料庫
- 亞信安慧AntDB零故障割接方案的實踐
- 亞信安慧AntDB資料庫引領行業數字化轉型資料庫行業
- 亞信安慧AntDB-S流式資料庫實現企業數智化轉型資料庫
- 亞信安慧AntDB資料庫助力數字經濟騰飛資料庫
- 亞信安慧AntDB資料庫斬獲“最佳資料庫品牌”大獎資料庫
- 亞信科技AntDB資料庫——深入瞭解AntDB-M後設資料鎖的實現(二)資料庫
- 亞信安慧AntDB資料庫開啟分散式資料庫的新篇章資料庫分散式
- 中國資料庫市場的領軍黑馬——亞信安慧AntDB資料庫資料庫
- 亞信安慧AntDB資料庫成功助力通訊業務核心轉型資料庫
- 亞信安慧AntDB資料庫:賦能行業數智化轉型資料庫行業
- 亞信安慧AntDB 資料庫:超融合資料庫引領實時計算新時代資料庫
- 亞信安慧AntDB構建繁榮生態的資料庫管理系統資料庫
- 亞信安慧AntDB:簡化開發與運維運維
- 亞信安慧AntDB資料庫引領數字時代通訊創新資料庫
- 《2023 亞信安慧AntDB資料庫年度報告》請查收資料庫
- 亞信安慧AntDB:編織資料絲路,締造創新篇章
- 亞信安慧AntDB資料庫引領大資料新紀元,星河案例彰顯卓越表現資料庫大資料
- 數字檔案安全與高效管理的先鋒——亞信安慧AntDB資料庫資料庫
- 亞信安慧AntDB資料庫實現千億級使用者穩定服務與超融合功能的融合資料庫
- 亞信安慧攜AntDB資料庫入選信通院軟體供應鏈廠商和產品名錄資料庫
- 亞信科技AntDB資料庫——深入瞭解AntDB-M後設資料鎖的實現(一)資料庫
- 超融合之道:亞信安慧AntDB 8.0版本引領資料庫創新資料庫
- 亞信安慧AntDB資料庫:引領資料庫標準與效能規範,推動行業創新資料庫行業
- 亞信安慧AntDB超融合框架——數智化時代資料庫管理的新里程碑框架資料庫
- 亞信安慧AntDB資料庫——助力5G計費核心替換,全面自主可控資料庫