【HIVE】hive 使用shell指令碼跑歷史資料
背景:補充分割槽表歷史資料,寫了個shell指令碼
指令碼程式碼:
vall=(20191201 20191224 20191225 20191226 20191227 20191228 20191229 20191230 20191231 20200101 20200102 20200103 20200104 20200105 20200106 20200107 20200108 20200109 20200110 20200111 20200112 20200113 20200114 20200115 20200116 20200117 20200118 20200119 20200120 20200121 20200122 20200123 20200124 20200125 20200126 20200127 20200128 20200129 )
for i in $(seq 0 ${#vall[@]}); do
#${val[$i]}
echo ${vall[$i]}
cresql='CREATE TABLE IF NOT EXISTS db_test.test_shop_d LIKE db_result.shop_d;'
echo ${cresql}
altsql='ALTER TABLE db_test.test_shop_d DROP IF EXISTS PARTITION(statdate='${vall[$i]}');'
echo ${altsql}
inssql='INSERT INTO TABLE db_test.test_shop_d PARTITION(statdate='${vall[$i]}') (app_id, account_active_value,income_30,active_day_7,order_active_value,active_state,order_count_7_score,active_user_7_score,pay_user_30,shop_name,compare_7_rate,total_score,existence_day,user_score,first_sd_time,goods_count_30_score,account_score,income_30_score,active_day_7_score,order_count_7,active_user_7,order_score,app_created_at,pay_user_30_score,compare_30_rate,total_active_value,day,user_active_value,expire_time,version,goods_count_30) SELECT md5(concat("test",app_id)) as app_id, account_active_value,income_30,active_day_7,order_active_value,active_state,order_count_7_score,active_user_7_score,pay_user_30,shop_name,compare_7_rate,total_score,existence_day,user_score,first_sd_time,goods_count_30_score,account_score,income_30_score,active_day_7_score,order_count_7,active_user_7,order_score,app_created_at,pay_user_30_score,compare_30_rate,total_active_value,day,user_active_value,expire_time,version,goods_count_30 FROM db_result.shop_d WHERE statdate='${vall[$i]}' ;'
echo ${inssql}
hive -e "${cresql} ${altsql} ${inssql}"
done
相關文章
- hive streaming 使用shell指令碼Hive指令碼
- [shell]shell指令碼實現每天自動抽取資料插入hive表指令碼Hive
- 定時將資料匯入到hive的shell指令碼Hive指令碼
- 【Hive】hive資料遷移Hive
- Hive shell 命令Hive
- 使用shell測試歷史資料樣本
- 使用 Hive 構建資料庫Hive資料庫
- [hive]hive資料模型中四種表Hive模型
- HIVE 資料同步Hive
- Hive篇---Hive使用優化Hive優化
- 【大資料開發】Hive——Hive函式大全大資料Hive函式
- 大資料時代的技術hive:hive介紹大資料Hive
- 使用shell 指令碼備份資料指令碼
- Hive資料匯出Hive
- Hive資料傾斜Hive
- Hive學習筆記 2 Hive的資料型別Hive筆記資料型別
- Hive學習筆記 4 Hive的資料匯入Hive筆記
- shell指令碼自動記錄登入使用者ip和歷史命令指令碼
- 大資料時代的技術hive:hive的資料型別和資料模型大資料Hive資料型別模型
- spark寫入hive資料SparkHive
- Hive資料格式轉換Hive
- Hive 資料更新時間Hive
- 大資料技術 - Hive大資料Hive
- Hive之 資料儲存Hive
- Hive之 資料型別Hive資料型別
- 大資料4.2 -- hive資料庫大資料Hive資料庫
- HIVE隨手記——Hive命令(?$HIVE_HOME/bin/hive)Hive
- Hive -------- 使用mysql儲存hive後設資料,Mysql的安裝以及配置步驟HiveMySql
- Shell歷史命令
- 23 大資料之hive(第四部 hive基礎)大資料Hive
- Hive學習筆記 5 Hive的資料查詢、函式Hive筆記函式
- Hive原始碼解析Hive原始碼
- HIVE資料匯入基礎Hive
- Hive處理Json資料HiveJSON
- hive(4)——後設資料概述Hive
- 掌握Hive資料儲存模型Hive模型
- [Hive]Hive排序優化Hive排序優化
- Hive --------- hive 的優化Hive優化