
1. 前言
大家好,我是測驗君!
最近有小伙伴后臺給我留言,說自己用 Django 寫了一個大檔案上傳的 Api 介面,現在想本地檢驗一下介面并發的穩定性,問我有沒有好的方案
本篇文章以檔案上傳為例,聊聊 Jmeter 并發執行 Python 腳本的完整流程
2. Python 實作檔案上傳
大檔案上傳包含 3 個步驟,分別是:
- 獲取檔案資訊及切片數目
- 分段切片,并上傳 - API
- 檔案合并 - API
- 檔案路徑引數化
2-1 獲取檔案資訊及切片數目
首先,獲取檔案的大小
然后,利用預設的切片大小獲取分段總數
最后,獲取檔案名及 md5 值
import os
import math
import hashlib
def get_file_md5(self, file_path):
"""獲取檔案的md5值"""
with open(file_path, 'rb') as f:
data = f.read()
return hashlib.md5(data).hexdigest()
def get_filename(self, filepath):
"""獲取檔案原始名稱"""
# 檔案名帶后綴
filename_with_suffix = os.path.basename(filepath)
# 檔案名
filename = filename_with_suffix.split('.')[0]
# 后綴名
suffix = filename_with_suffix.split('.')[-1]
return filename_with_suffix, filename, suffix
def get_chunk_info(self, file_path):
"""獲取分段資訊"""
# 獲取檔案總大小(位元組)
file_total_size = os.path.getsize(file_path)
print(file_total_size)
# 分段總數
total_chunks_num = math.ceil(file_total_size / self.chunk_size)
# 檔案名(帶后綴)
filename = self.get_filename(file_path)[0]
# 檔案的md5值
file_md5 = self.get_file_md5(file_path)
return file_total_size, total_chunks_num, filename, file_md5
2-2 切片及分段上傳
利用分段總數和分段大小,對檔案進行切片,呼叫分段檔案上傳介面
import requests
def do_chunk_and_upload(self, file_path):
? """將檔案分段處理,并上傳"""
file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(file_path)
# 遍歷
for index in range(total_chunks_num):
print('第{}次檔案上傳'.format(index + 1))
if index + 1 == total_chunks_num:
partSize = file_total_size % chunk_size
else:
partSize = chunk_size
# 檔案偏移量
offset = index * chunk_size
# 生成分片id,從1開始
chunk_id = index + 1
print('開始準備上傳檔案')
print("分片id:", chunk_id, "檔案偏移量:", offset, ",當前分片大小:", partSize, )
# 分段上傳檔案
self.__upload(offset, chunk_id, file_path, file_md5, filename, partSize, total_chunks_num)
def __upload(self, offset, chunk_id, file_path, file_md5, filename, partSize, total):
"""分次上傳檔案"""
url = 'http://**/file/brust/upload'
params = {'chunk': chunk_id,
'fileMD5': file_md5,
'fileName': filename,
'partSize': partSize,
'total': total
}
# 根據檔案路徑及偏移量,讀取檔案二進制資料
current_file = open(file_path, 'rb')
current_file.seek(offset)
files = {'file': current_file.read(partSize)}
resp = requests.post(url, params=params, files=files).text
print(resp)
2-3 合并檔案
最后呼叫合并檔案的介面,將分段小檔案合成大檔案
def merge_file(self, filepath):
"""合并"""
url = 'http://**/file/brust/merge'
file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(filepath)
? payload = json.dumps(
{
"fileMD5": file_md5,
"chunkTotal": total_chunks_num,
"fileName": filename
}
)
print(payload)
headers = {
"Content-Type": "application/json"
}
resp = requests.post(url, headers=headers, data=payload).text
print(resp)
2-4 檔案路徑引數化
為了并發執行,將檔案上傳路徑引數化
# fileupload.py
...
if __name__ == '__main__':
filepath = sys.argv[1]
# 每一段切片的大小(MB)
chunk_size = 2 * 1024 * 1024
fileApi = FileApi(chunk_size)
# 分段上傳
fileApi.do_chunk_and_upload(filepath)
# 合并
fileApi.merge_file(filepath)
3. Jmeter 并發執行
在使用 Jmeter 創建并發流程前,我們需要撰寫批處理腳本
其中,執行批處理腳本時,需要跟上檔案路徑一起執行
# cmd.bat
@echo off
set filepath=%1
python C:\Users\xingag\Desktop\rpc_demo\fileupload.py %*
然后,在本地新建一個 CSV 檔案,寫入多個檔案路徑
# 準備多個檔案路徑(csv)
C:\\Users\\xingag\\Desktop\\charles-proxy-4.6.1-win64.msi
C:\\Users\\xingag\\Desktop\\V2.0.pdf
C:\\Users\\xingag\\Desktop\\HBuilder1.zip
C:\\Users\\xingag\\Desktop\\HBuilder2.zip
接著,就可以使用 Jmeter 創建并發流程了
完整步驟如下:
- 創建一個測驗計劃,下面添加一個執行緒組
這里執行緒組數目與上面檔案數目保持一致即可
- 執行緒組下,添加「 同步定時器 」
同步定時器中的「 模擬用戶組的數量 」和上面引數數量保持一致
- 添加 CSV 資料檔案設定
指向上面準備的 csv 資料檔案,設定檔案格式為 UTF-8,變數名稱設定為 file_path,最后將執行緒共享模式設定為「 當前執行緒組 」
-
添加除錯取樣器,方便除錯
-
添加 OS 行程取樣器
選擇上面創建的批處理檔案,命令列引數設定為「 ${file_path} 」
- 添加查看結果數
4. 最后
運行上面創建的 Jmeter 并發流程,在結果數中可以查看并發上傳檔案的結果
當然,我們可以增加并發數量去模擬真實的使用場景,只需要修改 CSV 資料源及 Jmeter 引數即可
如果你覺得文章還不錯,請大家 點贊、分享、留言 下,因為這將是我持續輸出更多優質文章的最強動力!

最后: 可以關注公眾號:傷心的辣條 ! 進去有許多資料共享!資料都是面試時面試官必問的知識點,也包括了很多測驗行業常見知識,其中包括了有基礎知識、Linux必備、Shell、互聯網程式原理、Mysql資料庫、抓包工具專題、介面測驗工具、測驗進階-Python編程、Web自動化測驗、APP自動化測驗、介面自動化測驗、測驗高級持續集成、測驗架構開發測驗框架、性能測驗、安全測驗等,
如果我的博客對你有幫助、如果你喜歡我的博客內容,請 “點贊” “評論” “收藏” 一鍵三連哦!
好文推薦
轉行面試,跳槽面試,軟體測驗人員都必須知道的這幾種面試技巧!
面試經:一線城市搬磚!又面軟體測驗崗,5000就知足了…
面試官:作業三年,還來面初級測驗?恐怕你的軟體測驗工程師的頭銜要加雙引號…
什么樣的人適合從事軟體測驗作業?
那個準點下班的人,比我先升職了…
測驗崗反復跳槽,跳著跳著就跳沒了…
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/298888.html
標籤:其他
