【HIVE】hive 使用shell指令碼跑歷史資料
背景:補充分割槽表歷史資料,寫了個shell指令碼
指令碼程式碼:
vall=(20191201 20191224 20191225 20191226 20191227 20191228 20191229 20191230 20191231 20200101 20200102 20200103 20200104 20200105 20200106 20200107 20200108 20200109 20200110 20200111 20200112 20200113 20200114 20200115 20200116 20200117 20200118 20200119 20200120 20200121 20200122 20200123 20200124 20200125 20200126 20200127 20200128 20200129 )
for i in $(seq 0 ${#vall[@]}); do
#${val[$i]}
echo ${vall[$i]}
cresql='CREATE TABLE IF NOT EXISTS db_test.test_shop_d LIKE db_result.shop_d;'
echo ${cresql}
altsql='ALTER TABLE db_test.test_shop_d DROP IF EXISTS PARTITION(statdate='${vall[$i]}');'
echo ${altsql}
inssql='INSERT INTO TABLE db_test.test_shop_d PARTITION(statdate='${vall[$i]}') (app_id, account_active_value,income_30,active_day_7,order_active_value,active_state,order_count_7_score,active_user_7_score,pay_user_30,shop_name,compare_7_rate,total_score,existence_day,user_score,first_sd_time,goods_count_30_score,account_score,income_30_score,active_day_7_score,order_count_7,active_user_7,order_score,app_created_at,pay_user_30_score,compare_30_rate,total_active_value,day,user_active_value,expire_time,version,goods_count_30) SELECT md5(concat("test",app_id)) as app_id, account_active_value,income_30,active_day_7,order_active_value,active_state,order_count_7_score,active_user_7_score,pay_user_30,shop_name,compare_7_rate,total_score,existence_day,user_score,first_sd_time,goods_count_30_score,account_score,income_30_score,active_day_7_score,order_count_7,active_user_7,order_score,app_created_at,pay_user_30_score,compare_30_rate,total_active_value,day,user_active_value,expire_time,version,goods_count_30 FROM db_result.shop_d WHERE statdate='${vall[$i]}' ;'
echo ${inssql}
hive -e "${cresql} ${altsql} ${inssql}"
done
相關文章
- [shell]shell指令碼實現每天自動抽取資料插入hive表指令碼Hive
- Hive shell 命令Hive
- 【Hive】hive資料遷移Hive
- [hive]hive資料模型中四種表Hive模型
- 使用shell 指令碼備份資料指令碼
- 【大資料開發】Hive——Hive函式大全大資料Hive函式
- hive 的使用Hive
- hive beeline使用Hive
- Hive資料格式轉換Hive
- spark寫入hive資料SparkHive
- Hive 資料更新時間Hive
- Hive處理Json資料HiveJSON
- 大資料技術 - Hive大資料Hive
- 大資料4.2 -- hive資料庫大資料Hive資料庫
- Hive -------- 使用mysql儲存hive後設資料,Mysql的安裝以及配置步驟HiveMySql
- 23 大資料之hive(第四部 hive基礎)大資料Hive
- hive 中文亂碼Hive
- Hive原始碼解析Hive原始碼
- hive(4)——後設資料概述Hive
- 掌握Hive資料儲存模型Hive模型
- HIVE資料匯入基礎Hive
- 使用hive增量更新Hive
- 透過Shell指令碼自動安裝Hive&JDBC測試&提供CDH5網盤地址指令碼HiveJDBCH5
- Hive --------- hive 的優化Hive優化
- [Hive]Hive排序優化Hive排序優化
- 使用Presto查詢hive表資料時報"Error opening Hive split hdfs"問題,及解決方法RESTHiveError
- 獲取所有域使用者的登陸歷史資訊指令碼指令碼
- 使用shell指令碼替換csv檔案中的資料指令碼
- Hive 與 ElasticSearch 的資料互動HiveElasticsearch
- 大資料5.1 - hive離線分析大資料Hive
- 大資料開發之路:hive篇大資料Hive
- Hive中的集合資料型別Hive資料型別
- 大資料4.1 - Flume整合案例+Hive資料倉大資料Hive
- HIVEHive
- 一起學Hive——使用MSCK命令修復Hive分割槽Hive
- 【Hive一】Hive安裝及配置Hive
- Flume和Hive整合之hive sinkHive
- 跑wordpress使用者密碼指令碼密碼指令碼