mysql高效導資料的方法講解
資料:一個db,2000個表格,2000張表格資料,每條記錄30個column,平均每張表格4.3w條記錄,總共86388670條記錄。
機器:linux 64bit 8G記憶體 4核IntelX3320@2.5GHz
基本思路:
複製程式碼 程式碼如下:
mysql -utest -pxxxx -s -e "source xxxx.sql"
將load語句放在xxxx.sql中
load語法:
複製程式碼 程式碼如下:
load data [low_priority] [local] infile 'file_name.txt' [replace | ignore]
如果序列匯入資料,會很慢,考慮並行,但可能有衝突,解決辦法:
load之前清空表
複製程式碼 程式碼如下:
truncate table xxxx 或 delete from table xxxx;
或使用replace或ignore關鍵字。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/4686/viewspace-2804104/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Excel資料分列方法講解Excel
- MySQL 資料庫 ALTER命令講解MySql資料庫
- 常用的資料分析方法及案例講解
- Mysql高效插入/更新資料MySql
- MySQL資料分析儲存引擎示例講解HKEAMySql儲存引擎
- Mysql系列第二講 詳解mysql資料型別(重點)MySql資料型別
- 高效實現MySQL資料整合至金蝶雲星空的解決方案MySql
- MySQL講義第8講——資料更新之 DELETEMySqldelete
- 路飛專案使用mysql資料庫詳細講解MySql資料庫
- mysql導資料庫用到的語句MySql資料庫
- 如何高效實現 MySQL 與 elasticsearch 的資料同步MySqlElasticsearch
- 案例講解伺服器硬碟離線資料恢復方法-資料恢復伺服器硬碟資料恢復
- 例項講解MySQL資料庫的查詢最佳化技術(轉)MySql資料庫
- mysql explain 命令講解MySqlAI
- 刪除重複資料的一種高效的方法
- MySQL儲存毫秒資料的方法MySql
- 15個高效的MySQL資料庫查詢小技巧MySql資料庫
- 年薪500萬大資料工程師:講解大資料建模方法和經驗大資料工程師
- 深入講解以太坊的資料儲存
- go 協程操作map導致的資料競爭及解決方法Go
- Mysql資料遷移方法MySql
- 詳解MySQL資料備份之mysqldump使用方法MySql
- 安裝mysql資料庫及問題解決方法MySql資料庫
- 資料執行保護講解
- 《高效能MySQL》筆記——MySQL建表資料型別的選擇MySql筆記資料型別
- 高效的Mobx模式(Part 2 - 掌握資料變更方法)模式
- TensorFlow高效讀取資料的方法——TFRecord的學習
- 解決MySQL的主從資料庫沒有同步的兩種方法MySql資料庫
- MySQL資料庫常用的備份方法MySql資料庫
- MySQL建立資料庫的兩種方法MySql資料庫
- MySQL匯出資料為csv的方法MySql
- MySQL資料庫重新命名的方法MySql資料庫
- 億萬級資料處理的高效解決方案
- 資料倉儲中從mysql導資料到oracleMySqlOracle
- 高效整合:聚水潭採購資料同步到MySQLMySql
- mysql的主從複製 原理講解MySql
- DataBinding資料繫結基本講解
- 講解Linux資料庫安裝Linux資料庫