mysql高效導資料的方法講解
資料:一個db,2000個表格,2000張表格資料,每條記錄30個column,平均每張表格4.3w條記錄,總共86388670條記錄。
機器:linux 64bit 8G記憶體 4核IntelX3320@2.5GHz
基本思路:
複製程式碼 程式碼如下:
mysql -utest -pxxxx -s -e "source xxxx.sql"
將load語句放在xxxx.sql中
load語法:
複製程式碼 程式碼如下:
load data [low_priority] [local] infile 'file_name.txt' [replace | ignore]
如果序列匯入資料,會很慢,考慮並行,但可能有衝突,解決辦法:
load之前清空表
複製程式碼 程式碼如下:
truncate table xxxx 或 delete from table xxxx;
或使用replace或ignore關鍵字。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/4686/viewspace-2804104/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- MySQL 資料庫 ALTER命令講解MySql資料庫
- 常用的資料分析方法及案例講解
- MySQL資料分析儲存引擎示例講解HKEAMySql儲存引擎
- Mysql系列第二講 詳解mysql資料型別(重點)MySql資料型別
- 高效實現MySQL資料整合至金蝶雲星空的解決方案MySql
- 路飛專案使用mysql資料庫詳細講解MySql資料庫
- MySQL講義第8講——資料更新之 DELETEMySqldelete
- 如何高效實現 MySQL 與 elasticsearch 的資料同步MySqlElasticsearch
- MySQL儲存毫秒資料的方法MySql
- 年薪500萬大資料工程師:講解大資料建模方法和經驗大資料工程師
- 案例講解伺服器硬碟離線資料恢復方法-資料恢復伺服器硬碟資料恢復
- 15個高效的MySQL資料庫查詢小技巧MySql資料庫
- TensorFlow高效讀取資料的方法——TFRecord的學習
- Mysql資料遷移方法MySql
- 安裝mysql資料庫及問題解決方法MySql資料庫
- 詳解MySQL資料備份之mysqldump使用方法MySql
- go 協程操作map導致的資料競爭及解決方法Go
- 解決MySQL的主從資料庫沒有同步的兩種方法MySql資料庫
- 《高效能MySQL》筆記——MySQL建表資料型別的選擇MySql筆記資料型別
- MySQL資料庫常用的備份方法MySql資料庫
- MySQL建立資料庫的兩種方法MySql資料庫
- MySQL匯出資料為csv的方法MySql
- 高效整合聚水潭庫存資料至MySQL的實現MySql
- 高效的Mobx模式(Part 2 - 掌握資料變更方法)模式
- 講解Linux資料庫安裝Linux資料庫
- DataBinding資料繫結基本講解
- 資料執行保護講解
- 億萬級資料處理的高效解決方案
- mysql的主從複製 原理講解MySql
- MySql中表單輸入資料出現中文亂碼的解決方法MySql
- Mysql 大資料表 資料匯入到SqlServer 中的方法MySql大資料Server
- 高效整合:聚水潭採購資料同步到MySQLMySql
- MySQL 匯出資料為csv格式的方法MySql
- Mysql如何處理重複資料?讓你的效率更高效MySql
- 冰河,能不能講講如何實現MySQL資料儲存的無限擴容?MySql
- MySQL-22:短暫提高效能的方法MySql
- MySQL的index merge(索引合併)導致資料庫死鎖分析與解決方案MySqlIndex索引資料庫
- C語言之高階資料講解C語言