大檔案傳輸解決方案:分片上傳 / 下載限速

請叫我菜鳥猿發表於2020-12-15

不少專案中會遇到上傳下載視訊、更新包、應用程式等檔案,此類檔案的共同點就是十分巨大,我在專案中遇到過4G左右的檔案同時100多臺機器下載,此時如果用post上傳和下載想一下都不可能,由此就需要用另一種解決方法 -- 分片上傳和下載限速

在此帶大家用php實現一下,各種框架同時適用,本次用到一些laraver的函式,不同框架替換這些函式即可

如果專案中用到的分片上傳,個人建議找相對應的包如(AetherUpload-Laravel)、有條件直接用7牛雲、阿里雲等大公司的分片上傳服務

原理

  1. 將需要上傳的檔案按照一定的分割規則,分割成相同大小的資料塊;
  2. 初始化一個分片上傳任務,返回本次分片上傳唯一標識;
  3. 按照一定的策略(序列或並行)傳送各個分片資料塊;
  4. 傳送完成後,服務端根據判斷資料上傳是否完整,如果完整,則進行資料塊合成得到原始檔案。

實現

h5

h5實現部分,h5部分實現了把檔案的分割,在上傳中,告訴服務端檔案的總片數和當前是第幾片,各個臨時檔案通過http請求傳送出去

<!doctype html>
<html>
<head>
    <meta charset="UTF-8">
    <meta name="viewport"
          content="width=device-width, user-scalable=no, initial-scale=1.0, maximum-scale=1.0, minimum-scale=1.0">
    <meta http-equiv="X-UA-Compatible" content="ie=edge">
    <title>Document</title>
    <style>
        #progress{
            width: 300px;
            height: 20px;
            background-color:#f7f7f7;
            box-shadow:inset 0 1px 2px rgba(0,0,0,0.1);
            border-radius:4px;
            background-image:linear-gradient(to bottom,#f5f5f5,#f9f9f9);
        }

        #finish{
            background-color: #149bdf;
            background-image:linear-gradient(45deg,rgba(255,255,255,0.15) 25%,transparent 25%,transparent 50%,rgba(255,255,255,0.15) 50%,rgba(255,255,255,0.15) 75%,transparent 75%,transparent);
            background-size:40px 40px;
            display: inline-block;
            height: 20px;
        }
        form{
            margin-top: 50px;
        }
    </style>
</head>
<body>
<p id="progress">
    <span id="finish" style="width: 0%;" progress="0"></span>
</p>
<form action="">
    <input type="file" name="file" id="file">
    <input type="button" value="停止" id="stop">
</form>
<script>
    var fileForm = document.getElementById("file");
    var stopBtn = document.getElementById('stop');
    var upload = new Upload();

    fileForm.onchange = function(){
        upload.addFileAndSend(this);
    }

    stopBtn.onclick = function(){
        this.value = "停止中";
        upload.stop();
        this.value = "已停止";
    }

    function Upload(){
        var xhr = new XMLHttpRequest();
        var form_data = new FormData();
        const LENGTH = 1024 * 1024 *2;
        var start = 0;
        var end = start + LENGTH;
        var blob;
        var blob_num = 1;
        var is_stop = 0

        //對外方法,傳入檔案物件
        this.addFileAndSend = function(that){
            var file = that.files[0];
            blob = cutFile(file);
            sendFile(blob,file);
            blob_num  += 1;
        }

        //停止檔案上傳
        this.stop = function(){
            xhr.abort();
            is_stop = 1;
        }

        //切割檔案
        function cutFile(file){
            var file_blob = file.slice(start,end);
            start = end;
            end = start + LENGTH;
            return file_blob;
        };

        //傳送檔案
        function sendFile(blob,file){
            var form_data = new FormData();
            var total_blob_num = Math.ceil(file.size / LENGTH);
            form_data.append('file',blob);
            form_data.append('blob_num',blob_num);
            form_data.append('total_blob_num',total_blob_num);
            form_data.append('file_name',file.name);
            xhr.open('POST','http://vnn-admin.cc/Api/sliceUpload',false);

            xhr.onreadystatechange  = function () {
                if (xhr.readyState==4 && xhr.status==200)
                {
                    console.log(xhr.responseText);
                }

                var progress;
                var progressObj = document.getElementById('finish');
                if(total_blob_num == 1){
                    progress = '100%';
                }else{
                    progress = Math.min(100,(blob_num/total_blob_num)* 100 ) +'%';
                    // console.log(progress);
                    // console.log('分割');
                }
                progressObj.style.width = progress;
                var t = setTimeout(function(){
                    if(start < file.size && is_stop === 0){
                        blob = cutFile(file);
                        sendFile(blob,file);
                        blob_num  += 1;
                    }else{
                        setTimeout(t);
                    }
                },1000);
            }
            xhr.send(form_data);
        }
    }

</script>
</body>
</html>

服務端

服務端接收上傳的檔案片,並判斷是否為最後一塊,如果是就合併檔案,刪除上傳的檔案塊

/**
     * @Desc: 切片上傳
     *
     * @param Request $request
     * @return mixed
     */
    public function sliceUpload(Request $request)
    {
        $file = $request->file('file');
        $blob_num = $request->get('blob_num');
        $total_blob_num = $request->get('total_blob_num');
        $file_name = $request->get('file_name');

        $realPath = $file->getRealPath(); //臨時檔案的絕對路徑

        // 儲存地址
        $path = 'slice/'.date('Ymd')  ;
        $filename = $path .'/'. $file_name . '_' . $blob_num;

        //上傳
        $upload = Storage::disk('admin')->put($filename, file_get_contents($realPath));

        //判斷是否是最後一塊,如果是則進行檔案合成並且刪除檔案塊
        if($blob_num == $total_blob_num){
            for($i=1; $i<= $total_blob_num; $i++){
                $blob = Storage::disk('admin')->get($path.'/'. $file_name.'_'.$i);
//              Storage::disk('admin')->append($path.'/'.$file_name, $blob);   //不能用這個方法,函式會往已經存在的檔案裡新增0X0A,也就是\n換行符
                file_put_contents(public_path('uploads').'/'.$path.'/'.$file_name,$blob,FILE_APPEND);

            }
           //合併完刪除檔案塊
            for($i=1; $i<= $total_blob_num; $i++){
                Storage::disk('admin')->delete($path.'/'. $file_name.'_'.$i);
            }
        }

        if ($upload){
            return $this->json(200, '上傳成功');
        }else{
            return $this->json(0, '上傳失敗');
        }

    }

原理

  1. 通過每秒限制輸出的位元組
  2. 關閉buffer快取

實現

public function sliceDownload()
    {

        $path = 'slice/'.date('Ymd')  ;

        $filename = $path .'/'. '周杰倫 - 黑色幽默 [mqms2].mp3' ;

        //獲取檔案資源
        $file = Storage::disk('admin')->readStream($filename);

        //獲取檔案大小
        $fileSize = Storage::disk('admin')->size($filename);

        header("Content-type:application/octet-stream");//設定header頭為下載
        header("Accept-Ranges:bytes");
        header("Accept-Length:".$fileSize);//響應大小
        header("Content-Disposition: attachment; filename=周杰倫 - 黑色幽默 [mqms2].mp3");//檔名

        //不設定的話要等緩衝區滿之後才會響應
        ob_end_clean();//緩衝區結束
        ob_implicit_flush();//強制每當有輸出的時候,即刻把輸出傳送到瀏覽器\
        header('X-Accel-Buffering: no'); // 不緩衝資料

        $limit=1024*1024;
        $count=0;

        //限制每秒的速率
        while($fileSize-$count>0){//迴圈讀取檔案資料
            $data=fread($file,$limit);
            $count+=$limit;
            echo $data;//輸出檔案
            sleep(1);
        }

    }

大檔案傳輸解決方案:分片上傳 / 下載限速 / 斷點續傳

當你需要更大速度的時候調整$limit的數值即可

至此關於分片上傳和下載限速的原理和簡單實現Demo已經說完,大應該瞭解怎麼實現分片上傳了吧,希望對大家有幫助,因為大檔案上傳和下載是實現中經常遇到的事情

未經允許禁止轉載 -- 苦力小林,

相關文章