使用JDBC向MySQL資料庫批次插入10W條資料測試效率
使用JDBC連線MySQL資料庫進行資料插入的時候,特別是大批量資料連續插入(100000),如何提高效率呢?
在JDBC程式設計介面中Statement 有兩個方法特別值得注意:
通過使用addBatch()和executeBatch()這一對方法可以實現批量處理資料。
一共10W,執行時間一共花費 47 秒.
這個效率仍然不高,似乎沒有達到想要的效果,需要進一步改進。
在MySQL JDBC連線字串中還可以加入引數,
rewriteBatchedStatements=true
mysql預設關閉了batch處理,通過此引數進行開啟,這個引數可以重寫向資料庫提交的SQL語句
useServerPrepStmts=false
如果不開啟(useServerPrepStmts=false),使用com.mysql.jdbc.PreparedStatement進行本地SQL拼裝,最後送到db上就是已經替換了?後的最終SQL.
在此稍加改進,連線字串中加入下面語句(程式碼構造方法中去掉註釋):
connectStr += "?useServerPrepStmts=false&rewriteBatchedStatements=true";
再次測試結果如下:
在JDBC程式設計介面中Statement 有兩個方法特別值得注意:
通過使用addBatch()和executeBatch()這一對方法可以實現批量處理資料。
不過值得注意的是,首先需要在資料庫連結中設定手動提交,connection.setAutoCommit(false),然後在執行Statement之後執行connection.commit()。
import java.io.BufferedReader;
import java.io.IOException;
import java.sql.DriverManager;
import java.sql.PreparedStatement;
import java.sql.SQLException;
import java.util.Date;
import com.mysql.jdbc.Connection;
public class MysqlBatchUtil {
private String sql="INSERT INTO db_test (param1,param2,param3,param4,param5) VALUES (?,?,?,?,?)";
private String charset="utf-8";
private String connectStr="jdbc:mysql://localhost:3306/test";
private String username="root";
private String password="123456";
private void doStore() throws ClassNotFoundException, SQLException, IOException {
Class.forName("com.mysql.jdbc.Driver");
connectStr += "?useServerPrepStmts=false&rewriteBatchedStatements=true";//此處是測試高效批次插入,去掉之後執行時普通批次插入
Connection conn = (Connection) DriverManager.getConnection(connectStr, username,password);
conn.setAutoCommit(false); // 設定手動提交
int count = 0;
PreparedStatement psts = conn.prepareStatement(sql);
String line = null;
Date begin=new Date();
for(int i=0;i<=100000;i++){
psts.setString(1, i+"param1");
psts.setString(2, i+"param2");
psts.setString(3, i+"param3");
psts.setString(4, i+"param4");
psts.setString(5, i+"param5");
psts.addBatch(); // 加入批量處理
count++;
}
psts.executeBatch(); // 執行批量處理
conn.commit(); // 提交
Date end=new Date();
System.out.println("數量="+count);
System.out.println("執行時間="+(end.getTime()-begin.getTime()));
conn.close();
}
public static void main(String[] args) {
try {
new MysqlBatchUtil().doStore();
} catch (ClassNotFoundException e) {
e.printStackTrace();
} catch (SQLException e) {
e.printStackTrace();
} catch (IOException e) {
e.printStackTrace();
}
}
}
一共10W,執行時間一共花費 47 秒.
這個效率仍然不高,似乎沒有達到想要的效果,需要進一步改進。
在MySQL JDBC連線字串中還可以加入引數,
rewriteBatchedStatements=true
mysql預設關閉了batch處理,通過此引數進行開啟,這個引數可以重寫向資料庫提交的SQL語句
useServerPrepStmts=false
如果不開啟(useServerPrepStmts=false),使用com.mysql.jdbc.PreparedStatement進行本地SQL拼裝,最後送到db上就是已經替換了?後的最終SQL.
在此稍加改進,連線字串中加入下面語句(程式碼構造方法中去掉註釋):
connectStr += "?useServerPrepStmts=false&rewriteBatchedStatements=true";
再次測試結果如下:
相關文章
- MySQL:JDBC批量插入資料的效率MySqlJDBC
- MySQL 資料庫生成 10000 條測試資料MySql資料庫
- 關於PHP往mysql資料庫中批次插入資料例項教程PHPMySql資料庫
- 向資料庫中插入一條新的資料,並返回新增資料的ID資料庫
- MySQL製作具有千萬條測試資料的測試庫MySql
- mybatis 批次插入資料MyBatis
- python資料插入連線MySQL資料庫PythonMySql資料庫
- mybatis oracle資料庫批次插入資料,忽略主鍵重複MyBatisOracle資料庫
- 用一條mysql語句插入多條資料MySql
- 向PostgreSQL資料庫插入Date型別資料包錯SQL資料庫型別
- 使用 Python 字典向 SQLite 插入資料PythonSQLite
- 【Mysql】資料庫索引,百萬資料測試索引效果MySql資料庫索引
- Mysql生成100w條測試資料MySql
- 資料庫批次插入這麼講究的麼?資料庫
- JDBC 批量插入資料優化, 使用 addBatch 和 executeBatchJDBC優化BAT
- mybatis+oracle 批次插入多條資料的處理方法MyBatisOracle
- SQL Server 2014如何使用遊標迴圈向遠端資料庫插入資料SQLServer資料庫
- MySQL 資料庫表格建立、資料插入及獲取插入的 ID:Python 教程MySql資料庫Python
- 19. 使用MySQL之插入資料MySql
- Spring Boot入門(五):使用JDBC訪問MySql資料庫Spring BootJDBCMySql資料庫
- MySQL 匯出一條資料的插入語句MySql
- mongodb資料庫中插入資料MongoDB資料庫
- 【JDBC的實現步驟……MySQL資料庫】JDBCMySql資料庫
- Go 單元測試之Mysql資料庫整合測試GoMySql資料庫
- 大資料測試與 傳統資料庫測試大資料資料庫
- 資料庫-批次更新資料庫
- python如何將資料插入資料庫Python資料庫
- Python 利用pymysql和openpyxl操作MySQL資料庫並插入Excel資料PythonMySql資料庫Excel
- JDBC資料庫訪問JDBC資料庫
- JDBC連結資料庫JDBC資料庫
- JDBC連線資料庫JDBC資料庫
- mysql之 sysbench0.4.12資料庫效能測試MySql資料庫
- 資料庫測試指南資料庫
- [轉載] 1.1Java使用JDBC原生方式連線MySql資料庫JavaJDBCMySql資料庫
- MySQL資料庫使用(二)MySql資料庫
- eazyexcel 讀取excel資料插入資料庫Excel資料庫
- JAVA面試:mysql資料庫Java面試MySql資料庫
- 10W資料匯入該如何與庫中資料去重?