海量資料遷移之使用分割槽並行切分匯入

dbhelper發表於2014-11-26

在之前的章節中討論過怎麼把一個很大的分割槽表切分為若干的dump檔案,在資料載入的時候能夠同時做基於每個分割槽的資料匯入,如果有些分割槽比較大,有幾十個dump檔案,那麼這個分割槽做資料匯入的時候是不能再進行並行切分了。
現在在準生產環境中先查詢了如下的表,charge,memo,charge_rel數量級都過億,而且memo表中還含有lob欄位。其他兩個分割槽儘管欄位沒有特殊之處,但是分割槽數很多。都在幾百個左右。

charge
 133036878
memo
186700029   

CHARGE_REL
 131419041


我把資料匯入分成了10個並行的process,每個process裡面處理對應的分割槽表資料。
比方說charge表
CHARGE 206..206 "partition(P30_C30)"
CHARGE 197..199 "partition(P29_C40)"
CHARGE 188..188 "partition(P28_C50)"
CHARGE 179..179 "partition(P27_C60)"
CHARGE 170..170 "partition(P26_C70)"
CHARGE 161..161 "partition(P25_C80)"

我定位了206號dump是歸屬分割槽P30_C30的,197~199號dump是歸屬分割槽P29_C40的
先來看看資料匯入前的表空間。
                               Total MB    Free MB     Used MB  
                          ------------ ---------- -----------
sum                          1,490,261    585,573     904,688


資料匯入15分鐘後。超大的memo表竟然都快完成了!
############################################################
                    CHARGE_REL  152 of TOTAL   222 completed, |--processing... from      split_par_9_appendata.log 
                             MEMO  401 of TOTAL   446 completed, |--processing... from      split_par_9_appendata.log 
                          CHARGE  175 of TOTAL   322 completed, |--processing... from      split_par_9_appendata.log                    
另外兩個大表也在繼續。稍候,大部分的程式開始處理另外2個大表。
又過了10分鐘
############################################################
                     CHARGE_REL  160 of TOTAL   222 completed, |--processing... from      split_par_9_appendata.log 
                             MEMO  405 of TOTAL   446 completed, |--processing... from      split_par_9_appendata.log 
                           CHARGE  224 of TOTAL   322 completed, |--processing... from      split_par_9_appendata.log

表空間的資訊如下:
                               Total MB    Free MB     Used MB  
                          ------------ ---------- -----------
sum                          1,490,261    380,798   1,109,463

短時間內消耗了200g,速度提升不少。

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/8494287/viewspace-1347044/,如需轉載,請註明出處,否則將追究法律責任。

相關文章