Datax離線資料抽取(Oracle--MySQL)
Datax下載地址:
Datax MySQL讀:
Datax MySQL寫:
Datax Sql Server抽到MySQL:https://www.cnblogs.com/itar/p/9013707.html
1.下載安裝Datax軟體(必須安裝jdk 1.8版本以上)
[root@localhost ~]# tar xvf jdk-8u65-linux-x64.tar.gz
[root@localhost ~]# mv jdk1.8.0_151 /usr/local/jdk1.8.0_151
[root@localhost ~]# vim /etc/profile
export PATH=$PATH:/usr/local/jdk1.8.0_151/bin
[root@localhost ~]# vim /etc/ld.so.conf.d/mysql-x86_64.conf
/usr/local/jdk1.8.0_151/lib
[root@localhost ~]# tar xvf datax.tar.gz
[root@localhost ~]# cd datax/job/
2.編輯配置檔案(首先用kettle將表結構同步過去)
[root@localhost job]# vim job1.json
{ "job": { "setting": { "speed": { "channel": 5 } }, "content": [ { "reader": { "name": "oraclereader", "parameter": { "username": "upcenter", "password": "upcenter", "column": ["*"], "connection": [ { "table": ["STOCK_CONC"], "jdbcUrl": ["jdbc:oracle:thin:@192.168.7.7:1521:upqc"] } ] } }, "writer": { "name": "mysqlwriter", "parameter": { "writeMode": "update", "username": "wangying", "password": "wangying", "column": ["*"], "connection": [ { "jdbcUrl": "jdbc:mysql://172.16.8.93:3306/db_stktag", "table": ["t3"] } ] } } } ] } }
[root@localhost job]#
3.資料抽取
[root@localhost job]# python2 /root/datax/bin/datax.py job1.json
DataX (DATAX-OPENSOURCE-3.0), From Alibaba !
Copyright (C) 2010-2017, Alibaba Group. All Rights Reserved.
2019-01-29 14:23:53.177 [main] INFO VMInfo - VMInfo# operatingSystem class => sun.management.OperatingSystemImpl
2019-01-29 14:23:53.186 [main] INFO Engine - the machine info =>
osInfo: Oracle Corporation 1.8 25.151-b12
jvmInfo: Linux amd64 3.10.0-123.el7.x86_64
cpu num: 8
totalPhysicalMemory: -0.00G
freePhysicalMemory: -0.00G
maxFileDescriptorCount: -1
currentOpenFileDescriptorCount: -1
。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。
。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。
2019-01-29 14:24:04.012 [job-0] INFO JobContainer -
任務啟動時刻 : 2019-01-29 14:23:53
任務結束時刻 : 2019-01-29 14:24:04
任務總計耗時 : 10s
任務平均流量 : 176.48KB/s
記錄寫入速度 : 4047rec/s
讀出記錄總數 : 40475
讀寫失敗總數 : 0
[root@localhost job]#
4.驗證資料
mysql> select count(1) from t3;
+----------+
| count(1) |
+----------+
| 40475 |
+----------+
1 row in set (0.03 sec)
mysql>
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/25854343/viewspace-2565145/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Datax離線資料抽取(MySQL--MySQL)MySql
- Datax離線資料抽取(MySQL--Oracle)MySqlOracle
- 思否開源專案推介丨DataX Web:簡潔易用的離線資料同步工具Web
- 基於DataX的資料同步(下)-應用DataX進行資料同步
- 大資料技術 - DataX大資料
- 基於DataX的資料同步(上)-DataX介紹以及安裝
- 資料同步Datax與Datax_web的部署以及使用說明Web
- 磁碟離線資料恢復資料恢復
- 使用RestCloud ETL Shell元件實現定時排程DataX離線任務RESTCloud元件
- 資料同步工具Sqoop和DataXOOP
- 表空間離線與資料檔案離線的區別
- 大資料5.1 - hive離線分析大資料Hive
- 離線資料處理-DataSet物件物件
- DataX將MySql資料庫資料同步到Oracle資料庫MySql資料庫Oracle
- 線上過期資料遷移到離線資料庫資料庫
- DataX將Oracle資料庫資料同步到達夢資料庫Oracle資料庫
- 資料恢復:AMDU資料抽取恢復資料恢復
- 資料質量管理--資料抽取和清洗
- 海量資料遷移之資料抽取流程
- AMDU資料抽取案例一則
- data pump (資料抽取)測試
- 使用 ISAR 資料庫提供離線 Flutter 支援資料庫Flutter
- MySQL、Oracle後設資料抽取分析MySqlOracle
- Transwarp元件Trasporter工具資料抽取元件
- 使用shell抽取html資料之二HTML
- 使用flashback query巧妙抽取指定資料
- 異構資料來源同步之資料同步 → DataX 使用細節
- TDengine可通過資料同步工具 DataX讀寫
- Datax助力輕鬆遷移SQLServer資料至GreatSQLSQLServer
- 異源資料同步 → 如何獲取 DataX 已同步資料量?
- 資料上雲,應該選擇全量抽取還是增量抽取?
- 基於EMR離線資料分析(阿里雲)阿里
- 滴滴海量離線資料的線上化 — FastLoadAST
- 離線資料推送問題(訊息佇列)佇列
- Web應用中的離線資料儲存Web
- 離線數倉建設之資料匯出
- 異構資料來源同步之資料同步 → datax 改造,有點意思
- SQL Story摘錄(八)————資料抽取 (轉)SQL