YOLO-V5-超引數介紹及優化策略

yaml檔案

模型深度&寬度

nc: 3  # 類別數量
depth_multiple: 0.33  # model depth multiple
width_multiple: 0.50  # layer channel multiple

depth_multiple：控制子模塊數量=int(number*depth)

width_multiple：控制卷積核的數量=int(number*width)

Anchor

anchors:
  - [10,13, 16,30, 33,23]  # P3/8，檢測小目標，10,13是一組尺寸，總共三組檢測小目標
  - [30,61, 62,45, 59,119]  # P4/16，檢測中目標，共三組
  - [116,90, 156,198, 373,326]  # P5/32，檢測大目標，共三組

該anchor尺寸是為輸入影像640×640解析度預設的，實作了即可以在小特征圖（feature map）上檢測大目標，也可以在大特征圖上檢測小目標，三種尺寸的特征圖，每個特征圖上的格子有三個尺寸的anchor，

Backbone

backbone:
  # [from, number, module, args]
  [[-1, 1, Focus, [64, 3]],  # 0-P1/2
   [-1, 1, Conv, [128, 3, 2]],  # 1-P2/4
   [-1, 3, C3, [128]],
   [-1, 1, Conv, [256, 3, 2]],  # 3-P3/8
   [-1, 9, C3, [256]],
   [-1, 1, Conv, [512, 3, 2]],  # 5-P4/16
   [-1, 9, C3, [512]],
   [-1, 1, Conv, [1024, 3, 2]],  # 7-P5/32
   [-1, 1, SPP, [1024, [5, 9, 13]]],
   [-1, 3, C3, [1024, False]],  # 9
  ]

具體解釋如下：

from：輸入來自那一層，-1代表上一次，1代表第1層，3代表第3層
number：模塊的數量，最終數量需要乘width，然后四舍五入取整，如果小于1，取1，
module：子模塊
args：模塊引數，channel，kernel_size，stride，padding，bias等
Focus：對特征圖進行切片操作，[64,3]得到[3,32,3]，即輸入channel=3（RGB），輸出為640.5(width_multiple)=32，3為卷積核尺寸，
Conv：nn.conv(kenel_size=1，stride=1，groups=1，bias=False) + Bn + Leaky_ReLu，[-1, 1, Conv, [128, 3, 2]]：輸入來自上一層，模塊數量為1個，子模塊為Conv，網路中最終有1280.5=32個卷積核，卷積核尺寸為3，stride=2,，
BottleNeckCSP：借鑒CSPNet網路結構，由3個卷積層和X個殘差模塊Concat組成，若有False，則沒有殘差模塊，那么組成結構為nn.conv+Bn+Leaky_ReLu
SPP：[-1, 1, SPP, [1024, [5, 9, 13]]]表示5×5，9×9，13×13的最大池化方式，進行多尺度融合，源代碼如下：

k = [5, 9, 13]
self.m = nn.ModuleList([nn.MaxPool2d(kernel_size=x, stride=1, padding=x // 2) for x in k])

Head

head:
  [[-1, 1, Conv, [512, 1, 1]],
   [-1, 1, nn.Upsample, [None, 2, 'nearest']],  上采樣
   [[-1, 6], 1, Concat, [1]],  # cat backbone P4  代表concat上一層和第6層
   [-1, 3, C3, [512, False]],  # 13  說明該層是第13層網路
 
   [-1, 1, Conv, [256, 1, 1]],
   [-1, 1, nn.Upsample, [None, 2, 'nearest']],
   [[-1, 4], 1, Concat, [1]],  # cat backbone P3
   [-1, 3, C3, [256, False]],  # 17 (P3/8-small)
 
   [-1, 1, Conv, [256, 3, 2]],
   [[-1, 14], 1, Concat, [1]],  # cat head P4
   [-1, 3, C3, [512, False]],  # 20 (P4/16-medium)
 
   [-1, 1, Conv, [512, 3, 2]],
   [[-1, 10], 1, Concat, [1]],  # cat head P5
   [-1, 3, C3, [1024, False]],  # 23 (P5/32-large)
 
   [[17, 20, 23], 1, Detect, [nc, anchors]],  # Detect(P3, P4, P5)，[17, 20, 23]說明輸入來自第17,20,23層
  

YOLOv5中的Head包括Neck和Detect_head兩部分，Neck采用了PANet機構，Detect結構和YOLOv3中的Head一樣，其中BottleNeckCSP帶有False，說明沒有使用殘差結構，而是采用的backbone中的Conv，

超引數

初始化超參
YOLOv5的超參檔案見data/hyp.finetune.yaml（適用VOC資料集）或者hyo.scrach.yaml（適用COCO資料集）檔案

lr0: 0.01  # 初始學習率 (SGD=1E-2, Adam=1E-3)
lrf: 0.2  # 回圈學習率 (lr0 * lrf)
momentum: 0.937  # SGD momentum/Adam beta1 學習率動量
weight_decay: 0.0005  # 權重衰減系數 
warmup_epochs: 3.0  # 預熱學習 (fractions ok)
warmup_momentum: 0.8  # 預熱學習動量
warmup_bias_lr: 0.1  # 預熱初始學習率
box: 0.05  # iou損失系數
cls: 0.5  # cls損失系數
cls_pw: 1.0  # cls BCELoss正樣本權重
obj: 1.0  # 有無物體系數(scale with pixels)
obj_pw: 1.0  # 有無物體BCELoss正樣本權重
iou_t: 0.20  # IoU訓練時的閾值
anchor_t: 4.0  # anchor的長寬比（長:寬 = 4:1）
# anchors: 3  # 每個輸出層的anchors數量(0 to ignore)
#以下系數是資料增強系數，包括顏色空間和圖片空間
fl_gamma: 0.0  # focal loss gamma (efficientDet default gamma=1.5)
hsv_h: 0.015  # 色調 (fraction)
hsv_s: 0.7  # 飽和度 (fraction)
hsv_v: 0.4  # 亮度 (fraction)
degrees: 0.0  # 旋轉角度 (+/- deg)
translate: 0.1  # 平移(+/- fraction)
scale: 0.5  # 影像縮放 (+/- gain)
shear: 0.0  # 影像剪切 (+/- deg)
perspective: 0.0  # 透明度 (+/- fraction), range 0-0.001
flipud: 0.0  # 進行上下翻轉概率 (probability)
fliplr: 0.5  # 進行左右翻轉概率 (probability)
mosaic: 1.0  # 進行Mosaic概率 (probability)
mixup: 0.0  # 進行影像混疊概率（即，多張影像重疊在一起） (probability)

訓練超參

訓練超引數包括：yaml檔案的選擇，和訓練圖片的大小，預訓練，batch，epoch等，

可以直接在train.py的parser中修改，也可以在命令列執行時修改，如：$ python train.py --data coco.yaml --cfg yolov5s.yaml --weights ‘’ --batch-size 64

–data指定訓練資料檔案 --cfg設定網路結構的組態檔 –weihts加載預訓練模型的路徑

優化策略

1）數增強策略

從資料角度，我們通過粘貼、裁剪、mosaic、仿射變換、顏色空間轉換等對樣本進行增強，增加目標多樣性，以提升模型的檢測與分類精度，

2）SAM優化器

SAM優化器[4]可使損失值和損失銳度同時最小化，并可以改善各種基準資料集（例如CIFAR-f10、100g，ImageNet，微調任務）和模型的模型泛化能力，從而產生了多種最新性能，另外， SAM優化器具有固有的魯棒性，

經實驗對比，模型進行優化器梯度歸一化和采用SAM優化器，約有0.027點的提升，

3）Varifocal Loss損失函式

Varifocal Loss主要訓練密集目標檢測器使IOU感知的分類得分（IASC）回歸，來提高檢測精度，而目標遮擋是密集目標的特征之一，因此嘗試使用該loss來緩解目標遮擋造成漏檢現象，并且與focal loss不同，varifocal loss是不對稱對待正負樣本所帶來的損失，

4）凍結訓練

在訓練程序中采取常規訓練與凍結訓練想相結合的方式迭代，進一步抑制訓練程序中容易出現的過擬合現象，具體訓練方案是：1）常規訓練；2）加入凍結模塊的分步訓練1；3）加入凍結模塊的分步訓練2，

我們詳細講解以上步驟，第一步：從訓練資料中隨機選取一半，進行yolov5常規訓練，該程序中所有的引數是同時更新的，具體流程如下：
第二步分布迭代1就是采用的凍結模塊進行，資料是隨機選取訓練資料的一半，預訓練模型是第一步常規訓練的最好模型，按照凍結訓練方式進行訓練，這個流程回圈多次，獲得model2，

第三步分布迭代2同樣采用的是凍結模塊進行，資料是所有訓練資料，由于引數已經學過，這時我們將學習率調小一個量級，同樣也是按照凍結訓練方式進行訓練，這個流程只回圈一次，獲得最終的模型，

兩步的具體流程如下：

5）訓練時間優化

最初我們直接采用yolov5訓練，這種資料加載方式是以張為單位，基于像素的訪問，但是訓練時速度很慢，可能受其他執行緒影響造成的，大概一輪要40分鐘左右，然后我們就嘗試了cache這種方式，它是將所有訓練資料存入到記憶體中，我們以6406403的輸入影像為例，占道資料總共有10147張，全部讀進去大約占11.6G的記憶體，平臺是提供12G的記憶體，幾乎將記憶體占滿，也會導致訓練變慢；于是我們就嘗試改進訓練讀取資料方式，我們采用的是cache+影像編解碼的方式，記憶體占用僅是cache的1/6，由于添加了編解碼，速度比cache慢點，但從資料比較來看，相差無幾，這樣既能節省記憶體又能加快訓練速度，節省了我們訓練程序的極力值和加快實驗的步伐，