sqlldr標準輸出未處理導致批處理掛起問題

redhouser發表於2018-04-25
1問題
    生產環境一個批次處理沒有完成。

 2分析
    批次處理邏輯:
    java->shell->sqlldr
    檢查資料庫會話,發現對應會話等待事件為SQL*Net message from client,對應v$session.program為sqlldr@xxx,v$session.seq#保持不變,持續超過5個小時(6:45-12:20)。
    查詢資料庫載入的表,發現已載入部分資料,但對應sqlldr日誌為空。

     對應sqlldr命令如下:
     sqlldr user/pwd data=a.txt control=a.ctl log=a.log bad=a.bad discard=a.dis errors=9999999 rows=1000

     在測試環境驗證,sqlldr直接執行時,可以順利載入所有資料;透過java->shell->sqlldr方式執行時,在載入特定行數後停止,問題可以重現。

     在進行以上測試時,sqlldr直接執行時,當前視窗會輸出已載入了xx行。其實,問題正出在這裡。透過java->shell->sqlldr方式執行時,標準輸出沒有程式讀取,在要載入的資料量達到一定程度時(超過預設緩衝區大小),就會導致載入過程停止。

     驗證過程參考附錄。

3解決方案
處理sqlldr的標準輸出與錯誤輸出,可選方法:
方法一: sqlldr ...  silent=(ALL)
方法二: sqlldr .... 1>std.log 2>err.log


附,測試指令碼
--RunShell.java
import java.util.Date;
import java.text.SimpleDateFormat;
import java.io.BufferedReader;
import java.io.InputStreamReader;

public class RunShell {
    public static void main(String[] args){
        try {
            SimpleDateFormat df = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
            String shpath="/home/oracle/java/test.sh";
            System.out.println("---1--" + df.format(new Date()));
            Process ps = Runtime.getRuntime().exec(shpath);
            System.out.println("---2--" + df.format(new Date()));
            //ps.waitFor();
            BufferedReader br = new BufferedReader(new InputStreamReader(ps.getInputStream()));
            String loop = args[0];
            System.out.println(loop);
            String line;
            while ("0".equals(loop) && (line = br.readLine()) != null) {
                System.out.println(line);
            }

            System.out.println("---3--" + df.format(new Date()));
            ps.waitFor();
            System.out.println("---4--" + df.format(new Date()));

            }
            catch (Exception e) {
                e.printStackTrace();
            }
        }
}


--test.sh
seq -w 1 100000|awk '{print $0"xxxxxxxxxxxxxx"}'


測試1--傳入引數0,主執行緒主動讀取shell的標準輸出
java RunShell 0
---1--2018-04-20 13:23:25
---2--2018-04-20 13:23:25
0
...
...
---3--2018-04-20 13:23:34
---4--2018-04-20 13:23:34

==〉可以順利完成


測試2--傳入引數1,主執行緒不讀取shell的標準輸出
java RunShell 1
---1--2018-04-20 13:28:30
---2--2018-04-20 13:28:30
1
---3--2018-04-20 13:28:30

==〉長時間掛起
Ctrl-C

^C---4--2018-04-20 16:37:08

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/18922393/viewspace-2153347/,如需轉載,請註明出處,否則將追究法律責任。

相關文章