遷移學習神經網路不是學習

首先，我知道這里有一個類似的主題。 https://stats.stackexchange.com/questions/352036/what-should-i-do-when-my-neural-network-doesnt-learn

但不幸的是，這并沒有幫助。我的代碼中可能有一個我找不到的錯誤。我想做的是對一些WAV檔案進行分類。但是模型沒有學習。

首先，我正在收集檔案并將它們保存在一個陣列中。

其次，創建新的目錄，一個用于訓練資料，一個用于評價資料。 接下來，我正在讀取WAV檔案，創建頻譜圖，并將它們全部保存在火車目錄中。 之后，我將20%的資料從train目錄移到val目錄中。

注意：在創建頻譜圖時，我正在檢查WAV的長度。如果它太短（少于2秒），我就把它加倍。從這個頻譜圖中，我隨機切下一塊，只保存這塊。結果是，所有的影像都有相同的高度和寬度。

然后作為下一步，我正在加載火車和山谷的影像。在這里，我也在做規范化處理。

IMG_WIDTH=300
IMG_HEIGHT=300
IMG_DIM = (IMG_WIDTH, IMG_HEIGHT, 3)

train_files = glob.glob(DBMEL_PATH   "*",recursive=True)
train_imgs = [img_to_array(load_img(img, target_size=IMG_DIM)) for img in train_files]
train_imgs = np.array(train_imgs) / 255 #歸一化資料
train_labels = [fn.split('/span>)[-1].split(' 。 '][1].strip() for fn in train_files ]

validation_files = glob.glob(DBMEL_VAL_PATH   "*",recursive=True)
validation_imgs = [img_to_array(load_img(img, target_size=IMG_DIM)) for img in validation_files] 。
validation_imgs = np.array(validation_imgs) / 255 # 歸一化資料。
validation_labels = [fn.split('/span>)[-1].split(' 。 ')[1].strip() for fn in validation_files]

我已經檢查了這些變數并列印了它們。我想這是很好的作業。這些陣列包含了總資料的80%和20%。

#Train dataset shape: (3756, 300, 300, 3) 
#Validation dataset shape: (939, 300, 300, 3)

接下來，我還實作了一個One-Hot-Encoder。 到目前為止還不錯。在下一步，我創建了空的DataGenerators，所以沒有任何資料增強。當呼叫DataGenerators時，一次是訓練資料，一次是價值資料，我將傳遞影像陣列（train_imgs, validation_imgs）和單熱編碼標簽（train_labels_enc, validation_labels_enc）。

好吧，現在是棘手的部分。 首先，創建/加載一個預訓練的網路

from tensorflow.keras.applications.resnet50 import ResNet50
from tensorflow.keras.models import Model
import Tensorflow.keras

input_shape=(IMG_HEIGHT,IMG_WIDTH,3)
restnet = ResNet50(include_top=False, weights='imagenet', input_shape=（IMG_HEIGHT,IMG_WIDTH,3)

output = restnet.layer[-1].output
output = tensorflow.keras.layer.Flatten()(output)

restnet = Model(restnet.input, output)

for layer in restnet.layer:
    layer.trainable = False[/span]。

現在終于創建了模型本身。在創建模型時，我使用了預先訓練好的網路進行遷移學習。我想在某個地方肯定有問題。

from tensorflow.keras.layer import Conv2D, MaxPooling2D, Flatten, Dense, Dropout, InputLayer
from tensorflow.keras.models import Sequential
from tensorflow.keras import optimizers


model = Sequential()
model.add(restnet) # <--轉移學習[/span
model.add(Dense(512, activation='relu', input_dim=input_shape))# 512（num_classes）
model.add(Dropout(0.3))
model.add(Dense(512, activation='relu')
model.add(Dropout(0.3))
model.add(Dense(7, activation='softmax')

model.compile(loss='categorical_crossentropy',
              optimizer='adam',
              metrics=['accuracy'])
model.summary()

而模型的運行是這樣的

history = model.fit_generator(train_generator, 
                              steps_per_epoch=100, 
                              epochs=100,
                              validation_data=val_generator, 
                              validation_steps=10, 
                              verbose=1)
                             )

但是，即使在50個歷時之后，準確率也停滯在0.15左右

誰能幫助找到問題所在？

uj5u.com熱心網友回復：

我自己解決了這個問題

我交換了這個

model = Sequential()
model.add(restnet) # <--轉移學習[/span
model.add(Dense(512, activation='relu', input_dim=input_shape))# 512（num_classes）
model.add(Dropout(0.3))
model.add(Dense(512, activation='relu')
model.add(Dropout(0.3))
model.add(Dense(7, activation='softmax')

model.compile(loss='categorical_crossentropy',
              optimizer='adam',
              metrics=['accuracy'])
model.summary()

用這個：

base_model = tf.keras.applications. MobileNetV2(input_shape = （224, 224, 3）。include_top = False, weights = "imagenet" )

model = Sequential()
model.add(base_model)
model.add(tf.keras.layer.GlobalAveragePooling2D())
model.add(Dropout(0.2)
model.add(Dense(number_classes, activation="softmax"/span>)
model.compile(optimizer=tf.keras.optimizers.Adam(lr=0.00001)。
              loss="categorical_crossentropy"/span>。
              metrics=['準確性'])
model.summary()

而且我還發現了一件事。與一些教程相反，在處理頻譜圖時，使用資料增強并沒有用。 在沒有資料增強的情況下，我的訓練準確率為0.99，估值準確率為0.72。但使用資料增強后，我的訓練準確率只有0.75，估值準確率只有0.16。

標籤：

上一篇：使用Retrofit2處理KotlinCoroutine錯誤時的意外行為

下一篇：如何使用.htaccess檔案縮短我的網址