Unix shell解決實際問題指令碼(2)
處理檔案速度比較快的指令碼方法:
方法1:function while_read_line_bottom_fd_out
{
>$OUTIFILE
exec 4
exec 1>$OUTFILE
while read LINE
do
echo "$LINE"
done < $INFILE #迴圈結束處,重定向輸入
exec 1
exec 4>&-
}
處理檔案速度比較慢的指令碼方法:
方法2:function while_read_line_cmdsub2_fd_in
{
>$OUTFILE
exec 3
exec 0
while LINE=$(line)
do
echo "$LINE" >>$OUTFILE
done
exec 0
exec 3>&-
}
使用檔案描述符,處理速度可以快10ms.
用以上兩種方法處理 1MB大小的檔案,方法1用了0.30s,方法2用了8m35.62s.
一些檔案處理技術會浪費大量的CPU時間,大多數浪費的時間花費在不必要的變數賦值以及連續開啟,關閉同一個檔案上,使用管道對迴圈時也有負面影響,管道使用的檔案大小最大不能超過2048個字元。
##########################
(1)ftp:mput:上傳,mget下載,nlist:獲取目錄
(2)為避免在ftp自行化指令碼中編寫硬密碼形式的指令碼,通常需要建立密碼檔案,然後再引用該密碼檔案當中的使用者名稱,密碼等,這個密碼檔案只有root使用者才有許可權讀寫。
############################
分散式資料倉儲需要用到一種很重要的技術:遠端管理處理資料。
分散式資料倉儲3種型別:
(1)業務分佈在不同地域,不同生產線,所謂的全域性資料庫(整個業務範圍整合後的資料),區域性資料庫(遠端站點提供處理資料)
(2)邏輯上看是一個資料倉儲,但物理上看,分佈在不同的處理器上。
(3)組織管理上各自獨立部門無關聯的資料倉儲。
[@more@]來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/24214296/viewspace-1055901/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 執行 shell 指令碼 \r 問題解決指令碼
- 主題 2 Shell工具和指令碼指令碼
- shell指令碼中/dev/null 2>&1詳解指令碼devNull
- 解決shell指令碼錯誤$’r’ command not found指令碼
- RestCloud ETL解決shell指令碼引數化RESTCloud指令碼
- 批次解壓shell指令碼指令碼
- [20231102]除錯bash shell指令碼遇到的問題.txt除錯指令碼
- [20210107]編寫bash shell指令碼遇到的問題.txt指令碼
- Shell指令碼最佳實踐指令碼
- 消除假確定性並解決實際問題
- 解決 Python 指令碼無法生成結果的問題Python指令碼
- Shell 解決Redis Slow Log去重問題Redis
- shell指令碼編碼格式問題,bin/sh^M: bad interpreter: No such file or directory指令碼
- 9個實用shell指令碼指令碼
- 【Linux】【Shell】主控指令碼實現Linux指令碼
- shell指令碼指令碼
- PHP+Redis解決實際問題一:訂單限流PHPRedis
- 幾例實用的Shell指令碼指令碼
- shell指令碼實現DNS正向解析指令碼DNS
- flashfxp 亂碼,2種辦法解決flashfxp 亂碼問題
- 理解 Linux/Unix 登入指令碼Linux指令碼
- 解決“阻塞效應”-解決指令碼檔案下載阻塞網頁渲染的問題指令碼網頁
- shell指令碼案例指令碼
- 常用shell指令碼指令碼
- Linux Shell指令碼Linux指令碼
- shell指令碼放到crontab裡就執行不成功的問題指令碼
- Linux Shell 指令碼的 10 個有用的“面試問題和解答”Linux指令碼面試
- Linux Shell指令碼的10個有用的“面試問題和解答”Linux指令碼面試
- PHP+Redis解決實際問題二:快取擊穿PHPRedis快取
- 工程中實際問題解決兩例——基於C#C#
- shell指令碼(6)-shell陣列指令碼陣列
- 解決中文亂碼問題
- 用Shell指令碼來解決DOS安全Linux伺服器生產指令碼Linux伺服器
- 分享兩個實用的shell指令碼指令碼
- 解決Intellij IDEA中執行緩慢的問題,tomcat控制檯列印亂碼問題,國際化亂碼配置檔案亂碼解決IntelliJIdeaTomcat
- 理解 shell 指令碼中的常見用法: 2>&1指令碼
- OOM問題解決實踐OOM
- [20231101]使用tpt seg2.sql指令碼問題.txtSQL指令碼
- shell 指令碼加密 | shc指令碼加密