聊聊 Jmeter 如何併發執行 Python 指令碼

AirPython發表於2021-09-08
JMeterPython指令碼

1. 前言

大家好，我是安果！

最近有小夥伴後臺給我留言，說自己用 Django 寫了一個大檔案上傳的 Api 介面，現在想本地檢驗一下介面併發的穩定性，問我有沒有好的方案

本篇文章以檔案上傳為例，聊聊 Jmeter 併發執行 Python 指令碼的完整流程

2. Python 實現檔案上傳

大檔案上傳包含 3 個步驟，分別是：

  • 獲取檔案資訊及切片數目

  • 分段切片，並上傳 - API

  • 檔案合併 - API

  • 檔案路徑引數化

2-1  獲取檔案資訊及切片數目

首先，獲取檔案的大小

然後，利用預設的切片大小獲取分段總數

最後，獲取檔名及 md5 值

import os
import math
import hashlib

def get_file_md5(self, file_path):
    """獲取檔案的md5值"""
    with open(file_path, 'rb') as f:
         data = f.read()
         return hashlib.md5(data).hexdigest()

def get_filename(self, filepath):
    """獲取檔案原始名稱"""
    # 檔名帶字尾
    filename_with_suffix = os.path.basename(filepath)
    # 檔名
    filename = filename_with_suffix.split('.')[0]
    # 字尾名
    suffix = filename_with_suffix.split('.')[-1]
    return filename_with_suffix, filename, suffix

def get_chunk_info(self, file_path):
    """獲取分段資訊"""
    # 獲取檔案總大小(位元組)
    file_total_size = os.path.getsize(file_path)
    print(file_total_size)

    # 分段總數
    total_chunks_num = math.ceil(file_total_size / self.chunk_size)
    # 檔名（帶字尾）
    filename = self.get_filename(file_path)[0]
    # 檔案的md5值
    file_md5 = self.get_file_md5(file_path)
    return file_total_size, total_chunks_num, filename, file_md5

2-2  切片及分段上傳

利用分段總數和分段大小，對檔案進行切片，呼叫分段檔案上傳介面

import requests

def do_chunk_and_upload(self, file_path):
​    """將檔案分段處理，並上傳"""
    file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(file_path)

    # 遍歷
    for index in range(total_chunks_num):
        print('第{}次檔案上傳'.format(index + 1))
        if index + 1 == total_chunks_num:
            partSize = file_total_size % chunk_size
        else:
            partSize = chunk_size

        # 檔案偏移量
        offset = index * chunk_size

        # 生成分片id,從1開始
        chunk_id = index + 1

        print('開始準備上傳檔案')
        print("分片id:", chunk_id, "檔案偏移量：", offset, ",當前分片大小:", partSize, )

        # 分段上傳檔案
        self.__upload(offset, chunk_id, file_path, file_md5, filename, partSize, total_chunks_num)

def __upload(self, offset, chunk_id, file_path, file_md5, filename, partSize, total):
    """分次上傳檔案"""
    url = 'http://**/file/brust/upload'
    params = {'chunk': chunk_id,
                'fileMD5': file_md5,
                'fileName': filename,
                'partSize': partSize,
                'total': total
                }
    # 根據檔案路徑及偏移量，讀取檔案二進位制資料
    current_file = open(file_path, 'rb')
    current_file.seek(offset)

    files = {'file': current_file.read(partSize)}
    resp = requests.post(url, params=params, files=files).text
    print(resp)

2-3  合併檔案

最後呼叫合併檔案的介面，將分段小檔案合成大檔案

def merge_file(self, filepath):
        """合併"""
        url = 'http://**/file/brust/merge'
        file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(filepath)
​        payload = json.dumps(
            {
                "fileMD5": file_md5,
                "chunkTotal": total_chunks_num,
                "fileName": filename
            }
        )
        print(payload)
        headers = {
            "Content-Type": "application/json"
        }
        resp = requests.post(url, headers=headers, data=payload).text
        print(resp)

2-4  檔案路徑引數化

為了併發執行，將檔案上傳路徑引數化

# fileupload.py
...
if __name__ == '__main__':
    filepath = sys.argv[1]

    # 每一段切片的大小(MB)
    chunk_size = 2 * 1024 * 1024

    fileApi = FileApi(chunk_size)
    # 分段上傳
    fileApi.do_chunk_and_upload(filepath)

    # 合併
    fileApi.merge_file(filepath)

3. Jmeter 併發執行

在使用 Jmeter 建立併發流程前，我們需要編寫批處理指令碼

其中，執行批處理指令碼時，需要跟上檔案路徑一起執行

# cmd.bat

@echo off
set filepath=%1

python  C:\Users\xingag\Desktop\rpc_demo\fileupload.py %*

然後，在本地新建一個 CSV 檔案，寫入多個檔案路徑

# 準備多個檔案路徑（csv）
C:\\Users\\xingag\\Desktop\\charles-proxy-4.6.1-win64.msi
C:\\Users\\xingag\\Desktop\\V2.0.pdf
C:\\Users\\xingag\\Desktop\\HBuilder1.zip
C:\\Users\\xingag\\Desktop\\HBuilder2.zip

接著，就可以使用 Jmeter 建立併發流程了

完整步驟如下：

  • 建立一個測試計劃，下面新增一個執行緒組

    這裡執行緒組數目與上面檔案數目保持一致即可

  • 執行緒組下，新增「 同步定時器 」

    同步定時器中的「 模擬使用者組的數量 」和上面引數數量保持一致

  • 新增 CSV 資料檔案設定

    指向上面準備的 csv 資料檔案，設定檔案格式為 UTF-8，變數名稱設定為 file_path，最後將執行緒共享模式設定為「 當前執行緒組 」

  • 新增除錯取樣器，方便除錯

  • 新增 OS 程式取樣器

    選擇上面建立的批處理檔案，命令列引數設定為「 ${file_path} 」

  • 新增檢視結果數

4. 最後

執行上面建立的 Jmeter 併發流程，在結果數中可以檢視併發上傳檔案的結果

當然，我們可以增加併發數量去模擬真實的使用場景，只需要修改 CSV 資料來源及 Jmeter 引數即可

如果你覺得文章還不錯，請大家 點贊、分享、留言 下，因為這將是我持續輸出更多優質文章的最強動力！

相關文章