基于蝙蝠演算法優化BP神經網路的資料分類演算法及其MATLAB實作-附代碼

文章目錄

基于蝙蝠演算法優化BP神經網路的資料分類演算法及其MATLAB實作-附代碼
1 蝙蝠演算法與BP神經網路分類模型
- 1.1 蝙蝠演算法BA
- 1.2 one-hot編碼
2 基于蝙蝠演算法BA優化的BP神經網路分類演算法
- 2.1 優化變數與目標函式的選取
- 2.2 基于BA-BP分類的建模步驟
3 演算法引數設定
4 運行結果
MATLAB代碼與資料下載地址

1 蝙蝠演算法與BP神經網路分類模型

BP神經網路通過自身的訓練，在訓練程序中調整引數，來學習輸入資料和輸出資料之間的映射規則，從而實作在給定輸入時，能得到比較接近期望輸出的結果，作為一種傳統的深度學習演算法，BP神經網路經常用來求解預測方面的問題，比如電力負荷預測，客流量預測，切削力預測，也可以作為分類器，用來解決軸承故障診斷，企業信譽評級等分類問題，在BP神經網路訓練的程序中，初始權值和閾值的選取，對最終訓練結構有著較大的影響，采用蝙蝠演算法作為優化器，以BP分類器的分類精度作為優化目標，來優化網路的權值與閾值，得到較高的分類精度，

1.1 蝙蝠演算法BA

蝙蝠演算法 (Bat Algorithm, BA) 是一種基于群體智能的優化演算法，受蝙蝠回生定位技術的啟發，由Xin-She Yang于2010年提出，蝙蝠個體將聲音輻射到周圍環境，并根據不同物體的回生，來識別獵物，躲避障礙物，以及在黑暗的環境中找到巢穴，蝙蝠演算法具有結構簡單、引數較少、便于實作等優點，主要用于求解連續型優化問題，在函式優化，影像識別，故障診斷，調度問題等方面有著廣泛的應用，

建立蝙蝠演算法的數學模型，作出以下幾點假設規則:

搜索規則: 所有蝙蝠利用回聲定位的方法感知距離，并且它們采用一種巧妙的方式來區別獵物和背景障礙物之間的不同，
引數變化規則: 蝙蝠在位置 x i x_i xi?以速度 v i v_i vi?隨機飛行,以固定的頻率 f m i n f_{min} fmin?、可變的波長 λ \lambda λ和音量 A 0 A_0 A0?來搜索獵物，蝙蝠根據自身與目標的鄰近程度來自動調整發射的脈沖波長（或頻率）和調整脈沖發射率 r r r，
音量變化規則: 假定音量 A A A是從一個最大值 A 0 A_0 A0?(整數)變化到固定最小值 A m i n A_{min} Amin?，

蝙蝠演算法實施步驟:

引數初始化，包括種群大小，最大迭代次數，初始的位置，速度，音量，脈沖頻率與發射率，
計算初始的最優個體位置與適應度，
按以下公式進行脈沖頻率、速度和個體位置的更新，并進行范圍調整，
{ f k = f min ? + ( f max ? ? f min ? ) ? β v k t + 1 = v k t + ( x k t ? x ? ) ? f k x k t + 1 = x k t + v k t \left\{\begin{array}{l} f_{k}=f_{\min }+\left(f_{\max }-f_{\min }\right) \cdot \beta \\ v_{k}^{t+1}=v_{k}^{t}+\left(x_{k}^{t}-x^{*}\right) \cdot f_{k} \\ x_{k}^{t+1}=x_{k}^{t}+v_{k}^{t} \end{array}\right. ????fk?=fmin?+(fmax??fmin?)?βvkt+1?=vkt?+(xkt??x?)?fk?xkt+1?=xkt?+vkt??
式中， β \beta β是亂數，服從[01]均勻分布，
鄰域搜索，按以下公式在最優解附近進行位置的搜索，
x n e w = x o l d + ε A t , r a n d > r k t x_{n e w}=x_{o l d}+\varepsilon A^{t}, rand>r_{k}^{t} xnew?=xold?+εAt,rand>rkt?
式中, r k t r_{k}^{t} rkt?為當前的脈沖發射率, A t A^t At為音量，
圍捕獵物，按以下公式更新脈沖發射率與音量 (不斷減小表示圍捕靠近獵物的程序)，
計算并記錄迄今最優個體，
重復執行步驟3-6，至滿足終止準則，輸出最優解與最優適應度，

1.2 one-hot編碼

BP神經網路的原理理解請參考博客: BP神經網路時間序列預測，基于BP神經網路預測演算法，結合one-hot編碼，實作BP分類器，

one-hot編碼又叫獨熱編碼，采用N位狀態暫存器來對N個狀態進行編碼，每個狀態都有獨立的暫存器位，并且在任意時候只有一位有效，是二進制的向量編碼方式，二進制向量，除了整數的索引標記為1之外，其余都是零值，如下所示:
在這里插入圖片描述

圖中，對于四個型別，在編碼的二進制列向量中，1的索引數值為相應的標簽編號，一方面，由于BP神經網路預測一般為連續型結果，所以采用one-hot方式編碼將離散的型別問題轉換為連續性問題，再對預測結果進行解碼為型別，可避免預測的結果為非整型數值，另一方面，與直接預測1 2 3 4型別的做法相比，這種做法不會出現其他型別如第5和第6類，

解碼示意圖:
在這里插入圖片描述
如圖所示, 通過解碼，實作二進制的連續數值到最大值索引的離散型別的轉換，

2 基于蝙蝠演算法BA優化的BP神經網路分類演算法

2.1 優化變數與目標函式的選取

針對BP神經網路的權值和閾值初始值取值對訓練的BP結果有較大影響，使用蝙蝠演算法BA進行引數的全域尋優，目標函式采用訓練樣本與預測樣本整體的準確率，目標函式公式如下：

Fobj = Accuracy train + Accuracy test 2 \text { Fobj }=\frac{\text { Accuracy }_{\text {train }}+\text { Accuracy }_{\text {test }}}{2} Fobj =2 Accuracy train ?+ Accuracy test ??
適應度越大，即優化模型的識別準確率越高，表明訓練準確，且兼顧模型的預測精度更好，

2.2 基于BA-BP分類的建模步驟

資料來源： 采用意大利紅酒資料集進行分類模型的實作，資料集大小為178組樣本，每組樣本都具有13個特征，3種標簽型別，獲取的型別一般采用二進制索引編碼：

型別	編碼
1	1 0 0
2	0 1 0
3	0 0 1

為了方便操作，將特征與整數型別放到EXCEL中，在程式對資料預處理時，使用代碼命令進行編碼，讀取代碼的命令如下：

%% 讀取資料
data=xlsread('資料.xlsx','Sheet1','A1:N178');  %使用xlsread函式讀取EXCEL中對應范圍的資料即可  

%輸入輸出資料
input=data(:,1:end-1);    %data的第一列-倒數第二列為特征指標
output_labels=data(:,end);  %data的最后面一列為標簽型別

建模步驟： 使用蝙蝠演算法優化BP神經網路的權值和閾值引數，建立基于蝙蝠演算法優化的BA-BP分類模型步驟如下:

(1）將樣本分為訓練集和測驗集，并進行特征歸一化和標簽編碼，
(2）將BP分類器的準確率作為目標函式，對蝙蝠演算法進行初始化設定，包括種群數量、最大迭代次數、優化變數范圍等演算法引數，
(3）采用蝙蝠優化演算法，以目標函式取值最大作為尋優目標，獲取最優引數，
(4）利用測驗集資料對優化后的BP神經網路進行測驗，
(5）輸出基于蝙蝠演算法BA-BP分類模型的測驗集分類結果，

在這里插入圖片描述

3 演算法引數設定

%初始化BA引數
popsize=30;   %初始種群規模
maxgen=50;   %最大進化代數
dim=inputnum*hiddennum+hiddennum+hiddennum*outputnum+outputnum;    %自變數個數
lb=repmat(-3,1,dim);    %自變數下限
ub=repmat(3,1,dim);   %自變數上限
vmin = 0.01*ones(1,dim); % 最小速度
vmax = 1.2*ones(1,dim);  % 最大速度
%頻率范圍
Qmin = 0.1;    % 最小頻率
Qmax = 2;    % 最大頻率
A = 0.7;          % 音量 (不變或者減小)
r = 0.5;      % 脈沖率 (不變或增加)
Af = 0.1;       % 音量更新系數                   
Rf = 0.1;         %排放速率更新常數

蝙蝠演算法BA優化后的引數賦給BP神經網路：

w1=Best_pos(1:inputnum*hiddennum);         %輸入層到中間層的權值
B1=Best_pos(inputnum*hiddennum+1:inputnum*hiddennum+hiddennum);   %中間各層神經元閾值
w2=Best_pos(inputnum*hiddennum+hiddennum+1:inputnum*hiddennum+hiddennum+hiddennum*outputnum);   %中間層到輸出層的權值
B2=Best_pos(inputnum*hiddennum+hiddennum+hiddennum*outputnum+1:inputnum*hiddennum+hiddennum+hiddennum*outputnum+outputnum);   %輸出層各神經元閾值