不少專案中會遇到上傳下載視訊、更新包、應用程式等檔案,此類檔案的共同點就是十分巨大,我在專案中遇到過4G左右的檔案同時100多臺機器下載,此時如果用post上傳和下載想一下都不可能,由此就需要用另一種解決方法 -- 分片上傳和下載限速
在此帶大家用php實現一下,各種框架同時適用,本次用到一些laraver的函式,不同框架替換這些函式即可
如果專案中用到的分片上傳,個人建議找相對應的包如(AetherUpload-Laravel)、有條件直接用7牛雲、阿里雲等大公司的分片上傳服務
原理
- 將需要上傳的檔案按照一定的分割規則,分割成相同大小的資料塊;
- 初始化一個分片上傳任務,返回本次分片上傳唯一標識;
- 按照一定的策略(序列或並行)傳送各個分片資料塊;
- 傳送完成後,服務端根據判斷資料上傳是否完整,如果完整,則進行資料塊合成得到原始檔案。
實現
h5
h5實現部分,h5部分實現了把檔案的分割,在上傳中,告訴服務端檔案的總片數和當前是第幾片,各個臨時檔案通過http請求傳送出去
<!doctype html>
<html>
<head>
<meta charset="UTF-8">
<meta name="viewport"
content="width=device-width, user-scalable=no, initial-scale=1.0, maximum-scale=1.0, minimum-scale=1.0">
<meta http-equiv="X-UA-Compatible" content="ie=edge">
<title>Document</title>
<style>
#progress{
width: 300px;
height: 20px;
background-color:#f7f7f7;
box-shadow:inset 0 1px 2px rgba(0,0,0,0.1);
border-radius:4px;
background-image:linear-gradient(to bottom,#f5f5f5,#f9f9f9);
}
#finish{
background-color: #149bdf;
background-image:linear-gradient(45deg,rgba(255,255,255,0.15) 25%,transparent 25%,transparent 50%,rgba(255,255,255,0.15) 50%,rgba(255,255,255,0.15) 75%,transparent 75%,transparent);
background-size:40px 40px;
display: inline-block;
height: 20px;
}
form{
margin-top: 50px;
}
</style>
</head>
<body>
<p id="progress">
<span id="finish" style="width: 0%;" progress="0"></span>
</p>
<form action="">
<input type="file" name="file" id="file">
<input type="button" value="停止" id="stop">
</form>
<script>
var fileForm = document.getElementById("file");
var stopBtn = document.getElementById('stop');
var upload = new Upload();
fileForm.onchange = function(){
upload.addFileAndSend(this);
}
stopBtn.onclick = function(){
this.value = "停止中";
upload.stop();
this.value = "已停止";
}
function Upload(){
var xhr = new XMLHttpRequest();
var form_data = new FormData();
const LENGTH = 1024 * 1024 *2;
var start = 0;
var end = start + LENGTH;
var blob;
var blob_num = 1;
var is_stop = 0
//對外方法,傳入檔案物件
this.addFileAndSend = function(that){
var file = that.files[0];
blob = cutFile(file);
sendFile(blob,file);
blob_num += 1;
}
//停止檔案上傳
this.stop = function(){
xhr.abort();
is_stop = 1;
}
//切割檔案
function cutFile(file){
var file_blob = file.slice(start,end);
start = end;
end = start + LENGTH;
return file_blob;
};
//傳送檔案
function sendFile(blob,file){
var form_data = new FormData();
var total_blob_num = Math.ceil(file.size / LENGTH);
form_data.append('file',blob);
form_data.append('blob_num',blob_num);
form_data.append('total_blob_num',total_blob_num);
form_data.append('file_name',file.name);
xhr.open('POST','http://vnn-admin.cc/Api/sliceUpload',false);
xhr.onreadystatechange = function () {
if (xhr.readyState==4 && xhr.status==200)
{
console.log(xhr.responseText);
}
var progress;
var progressObj = document.getElementById('finish');
if(total_blob_num == 1){
progress = '100%';
}else{
progress = Math.min(100,(blob_num/total_blob_num)* 100 ) +'%';
// console.log(progress);
// console.log('分割');
}
progressObj.style.width = progress;
var t = setTimeout(function(){
if(start < file.size && is_stop === 0){
blob = cutFile(file);
sendFile(blob,file);
blob_num += 1;
}else{
setTimeout(t);
}
},1000);
}
xhr.send(form_data);
}
}
</script>
</body>
</html>
服務端
服務端接收上傳的檔案片,並判斷是否為最後一塊,如果是就合併檔案,刪除上傳的檔案塊
/**
* @Desc: 切片上傳
*
* @param Request $request
* @return mixed
*/
public function sliceUpload(Request $request)
{
$file = $request->file('file');
$blob_num = $request->get('blob_num');
$total_blob_num = $request->get('total_blob_num');
$file_name = $request->get('file_name');
$realPath = $file->getRealPath(); //臨時檔案的絕對路徑
// 儲存地址
$path = 'slice/'.date('Ymd') ;
$filename = $path .'/'. $file_name . '_' . $blob_num;
//上傳
$upload = Storage::disk('admin')->put($filename, file_get_contents($realPath));
//判斷是否是最後一塊,如果是則進行檔案合成並且刪除檔案塊
if($blob_num == $total_blob_num){
for($i=1; $i<= $total_blob_num; $i++){
$blob = Storage::disk('admin')->get($path.'/'. $file_name.'_'.$i);
// Storage::disk('admin')->append($path.'/'.$file_name, $blob); //不能用這個方法,函式會往已經存在的檔案裡新增0X0A,也就是\n換行符
file_put_contents(public_path('uploads').'/'.$path.'/'.$file_name,$blob,FILE_APPEND);
}
//合併完刪除檔案塊
for($i=1; $i<= $total_blob_num; $i++){
Storage::disk('admin')->delete($path.'/'. $file_name.'_'.$i);
}
}
if ($upload){
return $this->json(200, '上傳成功');
}else{
return $this->json(0, '上傳失敗');
}
}
原理
- 通過每秒限制輸出的位元組
- 關閉buffer快取
實現
public function sliceDownload()
{
$path = 'slice/'.date('Ymd') ;
$filename = $path .'/'. '周杰倫 - 黑色幽默 [mqms2].mp3' ;
//獲取檔案資源
$file = Storage::disk('admin')->readStream($filename);
//獲取檔案大小
$fileSize = Storage::disk('admin')->size($filename);
header("Content-type:application/octet-stream");//設定header頭為下載
header("Accept-Ranges:bytes");
header("Accept-Length:".$fileSize);//響應大小
header("Content-Disposition: attachment; filename=周杰倫 - 黑色幽默 [mqms2].mp3");//檔名
//不設定的話要等緩衝區滿之後才會響應
ob_end_clean();//緩衝區結束
ob_implicit_flush();//強制每當有輸出的時候,即刻把輸出傳送到瀏覽器\
header('X-Accel-Buffering: no'); // 不緩衝資料
$limit=1024*1024;
$count=0;
//限制每秒的速率
while($fileSize-$count>0){//迴圈讀取檔案資料
$data=fread($file,$limit);
$count+=$limit;
echo $data;//輸出檔案
sleep(1);
}
}
當你需要更大速度的時候調整$limit的數值即可
至此關於分片上傳和下載限速的原理和簡單實現Demo已經說完,大應該瞭解怎麼實現分片上傳了吧,希望對大家有幫助,因為大檔案上傳和下載是實現中經常遇到的事情