使用JDBC向MySQL資料庫批次插入10W條資料測試效率
使用JDBC連線MySQL資料庫進行資料插入的時候,特別是大批量資料連續插入(100000),如何提高效率呢?
在JDBC程式設計介面中Statement 有兩個方法特別值得注意:
通過使用addBatch()和executeBatch()這一對方法可以實現批量處理資料。
一共10W,執行時間一共花費 47 秒.
這個效率仍然不高,似乎沒有達到想要的效果,需要進一步改進。
在MySQL JDBC連線字串中還可以加入引數,
rewriteBatchedStatements=true
mysql預設關閉了batch處理,通過此引數進行開啟,這個引數可以重寫向資料庫提交的SQL語句
useServerPrepStmts=false
如果不開啟(useServerPrepStmts=false),使用com.mysql.jdbc.PreparedStatement進行本地SQL拼裝,最後送到db上就是已經替換了?後的最終SQL.
在此稍加改進,連線字串中加入下面語句(程式碼構造方法中去掉註釋):
connectStr += "?useServerPrepStmts=false&rewriteBatchedStatements=true";
再次測試結果如下:
在JDBC程式設計介面中Statement 有兩個方法特別值得注意:
通過使用addBatch()和executeBatch()這一對方法可以實現批量處理資料。
不過值得注意的是,首先需要在資料庫連結中設定手動提交,connection.setAutoCommit(false),然後在執行Statement之後執行connection.commit()。
import java.io.BufferedReader;
import java.io.IOException;
import java.sql.DriverManager;
import java.sql.PreparedStatement;
import java.sql.SQLException;
import java.util.Date;
import com.mysql.jdbc.Connection;
public class MysqlBatchUtil {
private String sql="INSERT INTO db_test (param1,param2,param3,param4,param5) VALUES (?,?,?,?,?)";
private String charset="utf-8";
private String connectStr="jdbc:mysql://localhost:3306/test";
private String username="root";
private String password="123456";
private void doStore() throws ClassNotFoundException, SQLException, IOException {
Class.forName("com.mysql.jdbc.Driver");
connectStr += "?useServerPrepStmts=false&rewriteBatchedStatements=true";//此處是測試高效批次插入,去掉之後執行時普通批次插入
Connection conn = (Connection) DriverManager.getConnection(connectStr, username,password);
conn.setAutoCommit(false); // 設定手動提交
int count = 0;
PreparedStatement psts = conn.prepareStatement(sql);
String line = null;
Date begin=new Date();
for(int i=0;i<=100000;i++){
psts.setString(1, i+"param1");
psts.setString(2, i+"param2");
psts.setString(3, i+"param3");
psts.setString(4, i+"param4");
psts.setString(5, i+"param5");
psts.addBatch(); // 加入批量處理
count++;
}
psts.executeBatch(); // 執行批量處理
conn.commit(); // 提交
Date end=new Date();
System.out.println("數量="+count);
System.out.println("執行時間="+(end.getTime()-begin.getTime()));
conn.close();
}
public static void main(String[] args) {
try {
new MysqlBatchUtil().doStore();
} catch (ClassNotFoundException e) {
e.printStackTrace();
} catch (SQLException e) {
e.printStackTrace();
} catch (IOException e) {
e.printStackTrace();
}
}
}
一共10W,執行時間一共花費 47 秒.
這個效率仍然不高,似乎沒有達到想要的效果,需要進一步改進。
在MySQL JDBC連線字串中還可以加入引數,
rewriteBatchedStatements=true
mysql預設關閉了batch處理,通過此引數進行開啟,這個引數可以重寫向資料庫提交的SQL語句
useServerPrepStmts=false
如果不開啟(useServerPrepStmts=false),使用com.mysql.jdbc.PreparedStatement進行本地SQL拼裝,最後送到db上就是已經替換了?後的最終SQL.
在此稍加改進,連線字串中加入下面語句(程式碼構造方法中去掉註釋):
connectStr += "?useServerPrepStmts=false&rewriteBatchedStatements=true";
再次測試結果如下:
相關文章
- MySQL:JDBC批量插入資料的效率MySqlJDBC
- Oracle批次插入測試資料的方法Oracle
- 在ASP.NET中,向資料庫批次插入資料 (轉)ASP.NET資料庫
- MySQL 資料庫生成 10000 條測試資料MySql資料庫
- MySQL中如何批次插入資料MySql
- ColdFusion向資料庫插入資料例子資料庫
- MySQL製作具有千萬條測試資料的測試庫MySql
- 關於PHP往mysql資料庫中批次插入資料例項教程PHPMySql資料庫
- 向資料庫中插入一條新的資料,並返回新增資料的ID資料庫
- 【MySQL】資料庫效能測試MySql資料庫
- mybatis oracle資料庫批次插入資料,忽略主鍵重複MyBatisOracle資料庫
- Mysql取隨機資料效率測試(400W條中讀取100條)MySql隨機
- 【Mysql】資料庫索引,百萬資料測試索引效果MySql資料庫索引
- 用一條mysql語句插入多條資料MySql
- python資料插入連線MySQL資料庫PythonMySql資料庫
- 資料庫執行效率的對比測試資料庫
- java Jdbc連線oracle資料庫連線測試JavaJDBCOracle資料庫
- php插入千萬條資料庫指令碼PHP資料庫指令碼
- 【JavaWeb】JDBC連線MySQL資料庫JavaWebJDBCMySql資料庫
- JDBC向sql server插入50萬條資料出現:ava.lang.OutOfMemoryError: Java heap spaceJDBCSQLServerErrorJava
- mybatis+oracle 批次插入多條資料的處理方法MyBatisOracle
- Mysql生成100w條測試資料MySql
- 使用 Python 字典向 SQLite 插入資料PythonSQLite
- Go 單元測試之Mysql資料庫整合測試GoMySql資料庫
- 大資料測試與 傳統資料庫測試大資料資料庫
- 迅速插入大量測試資料的方法
- 19. 使用MySQL之插入資料MySql
- 解決Hibernate向MySQL資料庫插入中文亂碼問題MySql資料庫
- JDBC、JDBC框架、資料庫事務、資料庫連線池JDBC框架資料庫
- MySQL 匯出一條資料的插入語句MySql
- mysql之 mysql資料庫壓力測試工具(mysqlslap)MySql資料庫
- mongodb資料庫中插入資料MongoDB資料庫
- [MYSQL -19]插入資料MySql
- sqlldr批次匯入匯出資料測試SQL
- 批次繫結加快資料處理測試
- JDBC 批量插入資料優化, 使用 addBatch 和 executeBatchJDBC優化BAT
- java中批量插入資料jdbc hibernate Mybatis使用方式JavaJDBCMyBatis
- 資料庫測試指南資料庫