Java：匯出Excel大批量資料的優化過程

背景

團隊目前在做一個使用者資料看板（下面簡稱看板），基本覆蓋使用者的所有行為資料，並生成分析報表，使用者行為由多個資料來源組成（餐飲、生活日用、充值消費、交通出行、通訊物流、交通出行、醫療保健、住房物業、運動健康...），

基於大量資料的組合、排序和統計。根據最新的統計報告，每天將近100W+的行為資料產生，所以這個資料基數是非常大的。

而這個資料中心，對接很多的業務團隊，這些團隊根據自己的需要，對某些維度進行篩選，然後直接從我們的中心上下載資料（excel）文件進行分析。所以下個幾十萬上百萬行的資料是很常見的。

問題和解決方案

遇到的問題

目前遇到的主要問題是，隨著行為能力逐漸的完善閉環，使用者資料沉澱的也越來越多了，同時業務量的也在不斷擴大。

業務團隊有時候會下載超量的資料來進行分析，平臺上的資料下載能力就顯得尤為重要了。而我們的問題是下載效率太慢，10W的資料大約要5分鐘以上才能下載下來，這顯然有問題了。

解決步驟

程式碼是之前團隊遺留的，原先功能沒開放使用，沒有資料量，所以沒有發現問題。以下是原來的匯出模組，原程式如下，我做了基本還原。

現在如何保證資料的高效匯出是我們最重要的目標，這個也是業務團隊最關心的。 

    /**
     * 獲取匯出的Excel的檔案流資訊
     * @param exportData
     * @return
     * @throws Exception
     */
    private OutputStream getExportOutPutStream(List<UBehavDto> exportData) throws Exception {
        JSONObject object = new JSONObject();
        List<ExcelCell[]> excelCells = new ArrayList<>();
        String[] headers = new String[] { "A欄位","B欄位","C欄位","D","E","F","G","H","I","J","K","L",
                "M","N","O","P","Q","R","S","T","U","V","W",
                "X","Y","Z","AA","AB","AC","AD","AE欄位","AF欄位","AG欄位" };
        ExcelCell[] headerRow = getHeaderRow(headers);
        excelCells.add(headerRow);
        String pattern = "yyyy-MM-dd hh:mm:ss";
        for (UBehavDto uBehavDto:exportData) {
            String[] singleRow = new String[] { uBehavDto.getA(),uBehavDto.getB(),uBehavDto.getC(),uBehavDto.getD(),uBehavDto.getE(),uBehavDto.getF(),
                    DateFormatUtils.format(uBehavDto.getAddTime(), pattern),DateFormatUtils.format(uBehavDto.getDate(), pattern),
                    uBehavDto.getG(),uBehavDto.getH(),uBehavDto.getI(),uBehavDto.getJ(),uBehavDto.getK(),uBehavDto.getL(),uBehavDto.getM(),
                    uBehavDto.getN(),uBehavDto.getO(),uBehavDto.getP(),
                    uBehavDto.getQ(),uBehavDto.getR(),uBehavDto.getS(),String.valueOf(uBehavDto.getT()),uBehavDto.getMemo(),uBehavDto.getU(),uBehavDto.getV(),
                    uBehavDto.getW(),uBehavDto.getX(),
                    uBehavDto.getY(),uBehavDto.getZ(),uBehavDto.getAA(),uBehavDto.getAB(),uBehavDto.getAC() };
 24             ExcelCell[] cells = new ExcelCell[singleRow.length];
 25             ExcelCell getA=new ExcelCell();getA.setValue(uBehavDto.getA());
            ExcelCell getB=new ExcelCell();getB.setValue(uBehavDto.getB());
            ExcelCell getC=new ExcelCell();getC.setValue(uBehavDto.getC());
            ExcelCell getD=new ExcelCell();getD.setValue(uBehavDto.getD());
            ExcelCell getE=new ExcelCell();getE.setValue(uBehavDto.getE());
            ExcelCell getF=new ExcelCell();getF.setValue(uBehavDto.getF());
            ExcelCell getAddTime=new ExcelCell();getAddTime.setValue(DateFormatUtils.format(uBehavDto.getAddTime(), pattern));
            ExcelCell getDate=new ExcelCell();getDate.setValue(DateFormatUtils.format(uBehavDto.getDate(), pattern));
            ExcelCell getG=new ExcelCell();getG.setValue(uBehavDto.getG());
            ExcelCell getH=new ExcelCell();getH.setValue(uBehavDto.getH());
            ExcelCell getI=new ExcelCell();getI.setValue(uBehavDto.getI());
            ExcelCell getJ=new ExcelCell();getJ.setValue(uBehavDto.getJ());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getK());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getL());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getM());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getN());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getO());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getP());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getQ());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getR());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getS());
            ExcelCell a=new ExcelCell();a.setValue(String.valueOf(uBehavDto.getT()));
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getMemo());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getU());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getV());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getW());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getX());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getY());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getZ());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getAA());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getAB());
            ExcelCell a=new ExcelCell();a.setValue(uBehavDto.getAC());
            ExcelCell[] cells = {
                    new ExcelCell(uBehavDto.getA()),
                    new ExcelCell().setValue(uBehavDto.getB()),
                    new ExcelCell().setValue(uBehavDto.getC()),
                    new ExcelCell().setValue(uBehavDto.getD()),
                    new ExcelCell().setValue(uBehavDto.getE()),
                    new ExcelCell().setValue(uBehavDto.getF()),
                    new ExcelCell().setValue(DateFormatUtils.format(uBehavDto.getAddTime(), pattern)),
                    new ExcelCell().setValue(DateFormatUtils.format(uBehavDto.getDate(), pattern)),
                    new ExcelCell().setValue(uBehavDto.getG()),
                    new ExcelCell().setValue(uBehavDto.getH()),
                    new ExcelCell().setValue(uBehavDto.getI()),
                    new ExcelCell().setValue(uBehavDto.getJ()),
                    new ExcelCell().setValue(uBehavDto.getK()),
                    new ExcelCell().setValue(uBehavDto.getL()),
                    new ExcelCell().setValue(uBehavDto.getM()),
                    new ExcelCell().setValue(uBehavDto.getN()),
                    new ExcelCell().setValue(uBehavDto.getO()),
                    new ExcelCell().setValue(uBehavDto.getP()),
                    new ExcelCell().setValue(uBehavDto.getQ()),
                    new ExcelCell().setValue(uBehavDto.getR()),
                    new ExcelCell().setValue(uBehavDto.getS()),
                    new ExcelCell().setValue(String.valueOf(uBehavDto.getT())),
                    new ExcelCell().setValue(uBehavDto.getMemo()),
                    new ExcelCell().setValue(uBehavDto.getU()),
                    new ExcelCell().setValue(uBehavDto.getV()),
                    new ExcelCell().setValue(uBehavDto.getW()),
                    new ExcelCell().setValue(uBehavDto.getX()),
                    new ExcelCell().setValue(uBehavDto.getY()),
                    new ExcelCell().setValue(uBehavDto.getZ()),
                    new ExcelCell().setValue(uBehavDto.getAA()),
                    new ExcelCell().setValue(uBehavDto.getAB()),
                    new ExcelCell().setValue(uBehavDto.getAC())
            };

            for(int idx=0;idx<singleRow.length;idx++) {
                ExcelCell cell = new ExcelCell();
                cell.setValue(singleRow[idx]);
                cells[idx] = cell;
            }
            excelCells.add(cells);
        }
        object.put("行為資料", excelCells);
        ExcelUtils utils = new ExcelUtils();
        OutputStream outputStream = utils.writeExcel(object);
        return outputStream;
    }

 

看看標紅的程式碼，這個生成Excel的方式是對Excel中的每一個cell進行渲染，逐行的進行資料填充，效率太慢了，根據日誌分析發現：基本時間都耗費在資料生成Excel上。每生成1W左右的資料基本

消耗1分鐘的時間。原來在其他業務中他只是作為簡量資料匯出來使用，比如幾百條的資料，很快就出來了，但是遇到大量資料匯出的情況，效能問題就立馬現形了。

 

團隊內討論了一下並參考了資料，發現原來業內有很多好用強大的Excel處理元件，我們優先選用阿里的easy excel來做一下嘗試。

Pom新增 easyexcel 如下：

 <dependency>
      <groupId>com.alibaba</groupId>
      <artifactId>easyexcel</artifactId>
      <version>2.1.4</version>
 </dependency>

程式碼：dto內容（中文為配置好的表頭）：

package com.xxx.xxx.modules.worklog.dto;

import com.alibaba.excel.annotation.ExcelProperty;
import lombok.Getter;
import lombok.Setter;
import java.io.Serializable;
import java.util.Date;

/**
 * <p>Description:XX表基本資訊 </p>
 * <p>Copyright: Copyright (c) 2021  </p>
 * <p>Company: XX Co., Ltd.             </p>
 *
 * @author brand
 * @date 2021-06-26 10:07:46
 * <p>Update Time:                      </p>
 * <p>Updater:                          </p>
 * <p>Update Comments:                  </p>
 */
@Setter
@Getter
public class WorkLogDto implements Serializable {
    private static final long serialVersionUID = -5523294561640180605L;
    @ExcelProperty("A欄位")
    private String aClolumn;
    @ExcelProperty("B欄位")
    private String BColumn;
    @ExcelProperty("C欄位")
    private String cColumn;
    @ExcelProperty("D欄位")
    private String dColumn;
    @ExcelProperty("E欄位")
    private String eColumn;
    @ExcelProperty("F欄位")
    private String fColumn;
    @ExcelProperty("G欄位")
    private Date gColumn;
    @ExcelProperty("H欄位")
    private Date hColumn;
    @ExcelProperty("I欄位")
    private String iColumn;
    @ExcelProperty("J欄位")
    private String jColumn;
    @ExcelProperty("K欄位")
    private String kColumn;
    @ExcelProperty("L欄位")
    private String lColumn;
    @ExcelProperty("M欄位")
    private String mColumn;
    @ExcelProperty("N欄位")
    private String nColumn;
    @ExcelProperty("O欄位")
    private String oColumn;
    @ExcelProperty("P欄位")
    private String pColumn;
    @ExcelProperty("Q欄位")
    private String qColumn;
    @ExcelProperty("R欄位")
    private String rColumn;
    @ExcelProperty("S欄位")
    private String sColumn;
    @ExcelProperty("T欄位")
    private String tColumn;
    @ExcelProperty("U欄位")
    private String uColumn;
    @ExcelProperty("V欄位")
    private double vColumn;
    @ExcelProperty("W欄位")
    private String wColumn;
    @ExcelProperty("X欄位")
    private String xClumn;
    @ExcelProperty("Y欄位")
    private String yColumn;
    @ExcelProperty("Z欄位")
    private String zColumn;    
} 

生成檔案流的步驟（程式碼很清晰了）：

/**
     * EasyExcel 生成檔案流
     * @param exportData
     * @return
     */
    private byte[] getEasyExcelOutPutStream(List<WorkLogDto> exportData) {
        try {
            WriteCellStyle headWriteCellStyle = new WriteCellStyle();
            WriteCellStyle contentWriteCellStyle = new WriteCellStyle();
            contentWriteCellStyle.setWrapped(true);
            HorizontalCellStyleStrategy horizontalCellStyleStrategy = new HorizontalCellStyleStrategy(headWriteCellStyle, contentWriteCellStyle);
            ByteArrayOutputStream outputStream = new ByteArrayOutputStream();
            EasyExcel.write(outputStream, WorkLogDto.class).sheet("行為業務資料") //  Sheet名稱
                    .registerWriteHandler(new LongestMatchColumnWidthStyleStrategy())
                    .registerWriteHandler(horizontalCellStyleStrategy)
                    .doWrite(exportData);
            byte[] bytes = outputStream.toByteArray();
            // 關閉流
            outputStream.close();
            return bytes;
        }
        catch (Exception ex) {
            log.error("輸出Excel檔案流失敗:"+ex.getMessage());
            return null;
        }
    } 

完整生成Excel檔案流並上傳：

     /**
     * 上傳使用者資料包表
     * @param prmWorkLogExport
     * @param order
     * @param orderType
     * @return
     */
    @Override
    @Async
    public Object uploadWorkLogData(PrmWorkLogExport prmWorkLogExport,ExportTaskDomain domain, String order, String orderType,String suid) {
        try {
            log.info(String.format("ExportWorkLog->：%s", "開始獲取資料"));
            List<WorkLogDto> logList = getLogList(prmWorkLogExport,order,orderType);
            log.info(String.format("ExportWorkLog->：結束獲取資料，總 %d 條資料", logList.size()));
            byte[] bytes = getEasyExcelOutPutStream(logList);
            log.info(String.format("ExportWorkLog->：%s","完成資料轉excel檔案流"));
            /* 暫時作廢 Todo
            int max=55;int min=40;
            Random random = new Random();
            int rd = random.nextInt(max)%(max-min+1) + min;
            modifyExportTask(domain.getId(),0,rd);//計算生成資料的進度
            */
            //開始投遞檔案叢集伺服器，並將結果反寫到資料庫
            log.info(String.format("ExportWorkLog->：%s","開始將資料寫入檔案服務系統"));
            Dentry dentry = csService.coverUploadByByteArrayByToken(domain, bytes);
            //執行非同步記錄，以免連線池關閉
            executor.execute(() -> {
                try {
                   asynworkService.finishExportTask(domain.getId(),domain.getFileName(), dentry);
                } catch (Exception e) {
                    log.error("更新任務狀態失敗:", e.getMessage());
                }
            });

        } catch (Exception ex) {
            // 1完成 0進行中 2生產錯誤
            String updateSql = String.format(" update exporttask set statu=2 where taskid=%s;",domain.getId());
            Query query = entityManager.createNativeQuery(updateSql);
            query.executeUpdate();
            entityManager.flush();
            entityManager.clear();
            log.info(String.format("ExportWorkLog->：上傳檔案異常：%s",ex.getMessage()));
        }
        return null;
    }

改用阿里 easyexcel 元件後，10W+ 的資料從生成Excel檔案流到上傳只要8秒，原來約要8分鐘 ，以下為各個步驟時間點的日誌記錄，可以看出時間消耗：

整理工具類

工具類和使用說明

參考網上整理的工具類，有些類、方法在之前的版本是ok的，新版本下被標記為過時了。

package com.nd.helenlyn.common.utils;

import com.alibaba.excel.EasyExcelFactory;
import com.alibaba.excel.ExcelWriter;
import com.alibaba.excel.context.AnalysisContext;
import com.alibaba.excel.event.AnalysisEventListener;
import com.alibaba.excel.metadata.BaseRowModel;
import com.alibaba.excel.metadata.Sheet;
import lombok.Data;
import lombok.Getter;
import lombok.Setter;
import lombok.extern.slf4j.Slf4j;
import org.springframework.util.CollectionUtils;
import org.springframework.util.StringUtils;

import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.InputStream;
import java.io.OutputStream;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;

/**
 * @author brand
 * @Description:
 * @Copyright: Copyright (c) 2021
 * @Company: XX, Inc. All Rights Reserved.
 * @date 2021/7/10 3:54 下午
 * @Update Time:
 * @Updater:
 * @Update Comments:
 */
@Slf4j
public class EasyExcelUtil {
        private static Sheet initSheet;
        static {
            initSheet = new Sheet(1, 0);
            initSheet.setSheetName("sheet");
            //設定自適應寬度，避免表頭重疊情況
            initSheet.setAutoWidth(Boolean.TRUE);
        }

        /**
         * 讀取少於1000行資料的情況
         * @param filePath 檔案存放的絕對路徑
         * @return
         */
        public static List<Object> lessThan1000Row(String filePath){
            return lessThan1000RowBySheet(filePath,null);
        }

        /**
         * 讀小於1000行資料, 帶樣式
         * filePath 檔案存放的絕對路徑
         * initSheet ：
         *      sheetNo: sheet頁碼，預設為1
         *      headLineMun: 從第幾行開始讀取資料，預設為0, 表示從第一行開始讀取
         *      clazz: 返回資料List<Object> 中Object的類名
         */
        public static List<Object> lessThan1000RowBySheet(String filePath, Sheet sheet){
            if(!StringUtils.hasText(filePath)){
                return null;
            }

            sheet = sheet != null ? sheet : initSheet;

            InputStream fileStream = null;
            try {
                fileStream = new FileInputStream(filePath);
                return EasyExcelFactory.read(fileStream, sheet);
            } catch (FileNotFoundException e) {
                log.info("找不到檔案或檔案路徑錯誤, 檔案：{}", filePath);
            }finally {
                try {
                    if(fileStream != null){
                        fileStream.close();
                    }
                } catch (IOException e) {
                    log.info("excel檔案讀取失敗, 失敗原因：{}", e);
                }
            }
            return null;
        }

        /**
         * 讀大於1000行資料
         * @param filePath 檔案存放的絕對路徑
         * @return
         */
        public static List<Object> mareThan1000Row(String filePath){
            return moreThan1000RowBySheet(filePath,null);
        }

        /**
         * 讀大於1000行資料, 帶樣式
         * @param filePath 檔案存放的絕對路徑
         * @return
         */
        public static List<Object> moreThan1000RowBySheet(String filePath, Sheet sheet){
            if(!StringUtils.hasText(filePath)){
                return null;
            }

            sheet = sheet != null ? sheet : initSheet;

            InputStream fileStream = null;
            try {
                fileStream = new FileInputStream(filePath);
                ExcelListener excelListener = new ExcelListener();
                EasyExcelFactory.readBySax(fileStream, sheet, excelListener);
                return excelListener.getDatas();
            } catch (FileNotFoundException e) {
                log.error("找不到檔案或檔案路徑錯誤, 檔案：{}", filePath);
            }finally {
                try {
                    if(fileStream != null){
                        fileStream.close();
                    }
                } catch (IOException e) {
                    log.error("excel檔案讀取失敗, 失敗原因：{}", e);
                }
            }
            return null;
        }

        /**
         * 生成excle
         * @param filePath  絕對路徑, 如：/home/{user}/Downloads/123.xlsx
         * @param data 資料來源
         * @param head 表頭
         */
        public static void writeBySimple(String filePath, List<List<Object>> data, List<String> head){
            writeSimpleBySheet(filePath,data,head,null);
        }

        /**
         * 生成excle
         * @param filePath 絕對路徑, 如：/home/{user}/Downloads/123.xlsx
         * @param data 資料來源
         * @param sheet excle頁面樣式
         * @param head 表頭
         */
        public static void writeSimpleBySheet(String filePath, List<List<Object>> data, List<String> head, Sheet sheet){
            sheet = (sheet != null) ? sheet : initSheet;

            if(head != null){
                List<List<String>> list = new ArrayList<>();
                head.forEach(h -> list.add(Collections.singletonList(h)));
                sheet.setHead(list);
            }

            OutputStream outputStream = null;
            ExcelWriter writer = null;
            try {
                outputStream = new FileOutputStream(filePath);
                writer = EasyExcelFactory.getWriter(outputStream);
                writer.write1(data,sheet);
            } catch (FileNotFoundException e) {
                log.error("找不到檔案或檔案路徑錯誤, 檔案：{}", filePath);
            }finally {
                try {
                    if(writer != null){
                        writer.finish();
                    }

                    if(outputStream != null){
                        outputStream.close();
                    }

                } catch (IOException e) {
                    log.error("excel檔案匯出失敗, 失敗原因：{}", e);
                }
            }

        }

        /**
         * 生成excle
         * @param filePath 檔案存放的絕對路徑, 如：/home/{user}/Downloads/123.xlsx
         * @param data 資料來源
         */
        public static void writeWithTemplate(String filePath, List<? extends BaseRowModel> data){
            writeWithTemplateAndSheet(filePath,data,null);
        }

        /**
         * 生成excle
         * @param filePath 檔案存放的絕對路徑, 如：/home/user/Downloads/123.xlsx
         * @param data 資料來源
         * @param sheet excle頁面樣式
         */
        public static void writeWithTemplateAndSheet(String filePath, List<? extends BaseRowModel> data, Sheet sheet){
            if(CollectionUtils.isEmpty(data)){
                return;
            }

            sheet = (sheet != null) ? sheet : initSheet;
            sheet.setClazz(data.get(0).getClass());

            OutputStream outputStream = null;
            ExcelWriter writer = null;
            try {
                outputStream = new FileOutputStream(filePath);
                writer = EasyExcelFactory.getWriter(outputStream);
                writer.write(data,sheet);
            } catch (FileNotFoundException e) {
                log.error("找不到檔案或檔案路徑錯誤, 檔案：{}", filePath);
            }finally {
                try {
                    if(writer != null){
                        writer.finish();
                    }

                    if(outputStream != null){
                        outputStream.close();
                    }
                } catch (IOException e) {
                    log.error("excel檔案匯出失敗, 失敗原因：{}", e);
                }
            }

        }

        /**
         * 生成多Sheet的excle
         * @param filePath 絕對路徑, 如：/home/{user}/Downloads/123.xlsx
         * @param multipleSheelPropetys
         */
        public static void writeWithMultipleSheel(String filePath,List<MultipleSheelPropety> multipleSheelPropetys){
            if(CollectionUtils.isEmpty(multipleSheelPropetys)){
                return;
            }

            OutputStream outputStream = null;
            ExcelWriter writer = null;
            try {
                outputStream = new FileOutputStream(filePath);
                writer = EasyExcelFactory.getWriter(outputStream);
                for (MultipleSheelPropety multipleSheelPropety : multipleSheelPropetys) {
                    Sheet sheet = multipleSheelPropety.getSheet() != null ? multipleSheelPropety.getSheet() : initSheet;
                    if(!CollectionUtils.isEmpty(multipleSheelPropety.getData())){
                        sheet.setClazz(multipleSheelPropety.getData().get(0).getClass());
                    }
                    writer.write(multipleSheelPropety.getData(), sheet);
                }

            } catch (FileNotFoundException e) {
                log.error("找不到檔案或檔案路徑錯誤, 檔案：{}", filePath);
            }finally {
                try {
                    if(writer != null){
                        writer.finish();
                    }

                    if(outputStream != null){
                        outputStream.close();
                    }
                } catch (IOException e) {
                    log.error("excel檔案匯出失敗, 失敗原因：{}", e);
                }
            }

        }


        /*********************以下為內部類，可以提取到獨立類中******************************/

        @Data
        public static class MultipleSheelPropety{

            private List<? extends BaseRowModel> data;

            private Sheet sheet;
        }

        /**
         * 解析監聽器，
         * 每解析一行會回撥invoke()方法。
         * 整個excel解析結束會執行doAfterAllAnalysed()方法
         *
         * @author: chenmingjian
         * @date: 19-4-3 14:11
         */
        @Getter
        @Setter
        public static class ExcelListener extends AnalysisEventListener {

            private List<Object> datas = new ArrayList<>();

            /**
             * 逐行解析
             * object : 當前行的資料
             */
            @Override
            public void invoke(Object object, AnalysisContext context) {
                //當前行
                // context.getCurrentRowNum()
                if (object != null) {
                    datas.add(object);
                }
            }


            /**
             * 解析完所有資料後會呼叫該方法
             */
            @Override
            public void doAfterAllAnalysed(AnalysisContext context) {
                //解析結束銷燬不用的資源
            }

        }
}

參考資料

語雀例子文件：https://www.yuque.com/easyexcel/doc/easyexcel
easyexcel GitHub地址：https://github.com/alibaba/easyexcel