海量資料遷移之使用分割槽並行切分匯入
在之前的章節中討論過怎麼把一個很大的分割槽表切分為若干的dump檔案,在資料載入的時候能夠同時做基於每個分割槽的資料匯入,如果有些分割槽比較大,有幾十個dump檔案,那麼這個分割槽做資料匯入的時候是不能再進行並行切分了。
現在在準生產環境中先查詢了如下的表,charge,memo,charge_rel數量級都過億,而且memo表中還含有lob欄位。其他兩個分割槽儘管欄位沒有特殊之處,但是分割槽數很多。都在幾百個左右。
charge
133036878
memo
186700029
CHARGE_REL
131419041
我把資料匯入分成了10個並行的process,每個process裡面處理對應的分割槽表資料。
比方說charge表
CHARGE 206..206 "partition(P30_C30)"
CHARGE 197..199 "partition(P29_C40)"
CHARGE 188..188 "partition(P28_C50)"
CHARGE 179..179 "partition(P27_C60)"
CHARGE 170..170 "partition(P26_C70)"
CHARGE 161..161 "partition(P25_C80)"
我定位了206號dump是歸屬分割槽P30_C30的,197~199號dump是歸屬分割槽P29_C40的
先來看看資料匯入前的表空間。
Total MB Free MB Used MB
------------ ---------- -----------
sum 1,490,261 585,573 904,688
資料匯入15分鐘後。超大的memo表竟然都快完成了!
############################################################
CHARGE_REL 152 of TOTAL 222 completed, |--processing... from split_par_9_appendata.log
MEMO 401 of TOTAL 446 completed, |--processing... from split_par_9_appendata.log
CHARGE 175 of TOTAL 322 completed, |--processing... from split_par_9_appendata.log
另外兩個大表也在繼續。稍候,大部分的程式開始處理另外2個大表。
又過了10分鐘
############################################################
CHARGE_REL 160 of TOTAL 222 completed, |--processing... from split_par_9_appendata.log
MEMO 405 of TOTAL 446 completed, |--processing... from split_par_9_appendata.log
CHARGE 224 of TOTAL 322 completed, |--processing... from split_par_9_appendata.log
表空間的資訊如下:
Total MB Free MB Used MB
------------ ---------- -----------
sum 1,490,261 380,798 1,109,463
短時間內消耗了200g,速度提升不少。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/8494287/viewspace-1347044/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 海量資料遷移之分割槽並行切分並行
- 海量資料遷移之分割槽並行抽取並行
- 海量資料遷移之外部表切分
- 海量資料遷移之透過rowid切分大表
- 海量資料遷移之通過rowid切分大表
- 海量資料遷移之使用shell啟用多個動態並行並行
- 海量資料遷移之外部表並行抽取並行
- 海量資料遷移之分割槽表批次insert效能改進
- 海量資料遷移之分割槽表批量insert效能改進
- 海量資料遷移之資料抽取流程
- 分割槽表匯入資料庫資料庫
- 匯入匯出 Oracle 分割槽表資料Oracle
- 海量資料處理_使用外部表進行資料遷移
- 海量資料遷移之資料載入流程
- 海量資料遷移之外部表載入
- 海量資料處理_表分割槽
- 海量資料遷移之衝突資料篩查
- MySQL分割槽如何遷移MySql
- Oracle分割槽表遷移Oracle
- 分割槽表分批遷移
- 使用expdp匯出分割槽表中的部分分割槽資料
- 海量資料遷移之透過shell估算資料量
- 海量資料遷移之通過shell估算資料量
- 使用impdp,expdp資料泵進入海量資料遷移
- ClickHouse學習系列之八【資料匯入遷移&同步】
- 海量資料遷移之傳輸表空間(一)
- 使用PARTITION_OPTIONS引數控制資料泵分割槽表匯入
- MongoDB 資料遷移 備份 匯入(自用)MongoDB
- 海量資料處理_表分割槽(分割槽自動維護與歷史分割槽歸檔)
- Oracle 12C 新特性之表分割槽或子分割槽的線上遷移Oracle
- MyISAM分割槽表遷移 && 合併
- 海量資料遷移之sqlldr和datapump的缺點分析SQL
- 海量資料遷移之誤操作和防範建議
- 分割槽表入無分割槽的資料庫資料庫
- 資料泵引數partition_options 在對於遷移分割槽表的使用。
- MySql資料分割槽操作之新增分割槽操作MySql
- 理解 MySQL(4):並行資料庫與分割槽(Partition)MySql並行資料庫
- 資料泵匯入分割槽表長時間HANG住