最近更新有點慢，后臺收到不少小伙伴的催更，先說聲抱歉哈，最近在參加一個目標檢測的比賽，時間比較緊張，這段時間我也打算調整一下思路，試著將目標檢測中涉及的內容拆開來，將這些拆分的內容一點點融入到在后續的博客中，一方面兼具我現階段的作業，一方面也不耽擱文章的更新進度，水到渠成后，就開始寫目標檢測方面的內容，

這篇文章中我放棄了以往的model.fit()訓練方法，改用model.train_on_batch方法，兩種方法的比較：

model.fit()：用起來十分簡單，對新手非常友好
model.train_on_batch()：封裝程度更低，可以玩更多花樣，

此外我也引入了進度條的顯示方式，更加方便我們及時查看模型訓練程序中的情況，可以及時列印各項指標，

🚀 我的環境：

語言環境：Python3.6.5
編譯器：jupyter notebook
深度學習環境：TensorFlow2.4.1
顯卡（GPU）：NVIDIA GeForce RTX 3080
資料：https://pan.baidu.com/s/1lIY2zF_0unesTzPIC-UpZA 提取碼：71q2

🚀 來自專欄：《深度學習100例》

如果你是一名深度學習小白可以先看看我這個專門為你寫的專欄：《小白入門深度學習》

文章目錄

一、前期作業
- 1. 設定GPU
- 2. 匯入資料
- 3. 查看資料
二、資料預處理
- 1. 加載資料
- 2. 再次檢查資料
- 3. 配置資料集
- 4. 可視化資料
三、構建VG-16網路
四、編譯
五、訓練模型
六、模型評估
七、保存and加載模型
八、預測
九、同系列作品

一、前期作業

1. 設定GPU

如果使用的是CPU可以注釋掉這部分的代碼，

import tensorflow as tf

gpus = tf.config.list_physical_devices("GPU")

if gpus:
    tf.config.experimental.set_memory_growth(gpus[0], True)  #設定GPU顯存用量按需使用
    tf.config.set_visible_devices([gpus[0]],"GPU")

# 列印顯卡資訊，確認GPU可用
print(gpus)

[PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU')]

2. 匯入資料

import matplotlib.pyplot as plt
# 支持中文
plt.rcParams['font.sans-serif'] = ['SimHei']  # 用來正常顯示中文標簽
plt.rcParams['axes.unicode_minus'] = False  # 用來正常顯示負號

import os,PIL

# 設定隨機種子盡可能使結果可以重現
import numpy as np
np.random.seed(1)

# 設定隨機種子盡可能使結果可以重現
import tensorflow as tf
tf.random.set_seed(1)

#隱藏警告
import warnings
warnings.filterwarnings('ignore')

import pathlib

data_dir = "./data/train"
# data_dir = "D:/jupyter notebook/DL-100-days/datasets/017_Eye_dataset"

data_dir = pathlib.Path(data_dir)

3. 查看資料

image_count = len(list(data_dir.glob('*/*')))

print("圖片總數為：",image_count)

圖片總數為： 3400

二、資料預處理

1. 加載資料

使用image_dataset_from_directory方法將磁盤中的資料加載到tf.data.Dataset中

batch_size = 8
img_height = 224
img_width = 224

TensorFlow版本是2.2.0的同學可能會遇到module 'tensorflow.keras.preprocessing' has no attribute 'image_dataset_from_directory'的報錯，升級一下TensorFlow就OK了，

"""
關于image_dataset_from_directory()的詳細介紹可以參考文章：https://mtyjkh.blog.csdn.net/article/details/117018789
"""
train_ds = tf.keras.preprocessing.image_dataset_from_directory(
    data_dir,
    validation_split=0.2,
    subset="training",
    seed=12,
    image_size=(img_height, img_width),
    batch_size=batch_size)

Found 3400 files belonging to 2 classes.
Using 2720 files for training.

"""
關于image_dataset_from_directory()的詳細介紹可以參考文章：https://mtyjkh.blog.csdn.net/article/details/117018789
"""
val_ds = tf.keras.preprocessing.image_dataset_from_directory(
    data_dir,
    validation_split=0.2,
    subset="validation",
    seed=12,
    image_size=(img_height, img_width),
    batch_size=batch_size)

Found 3400 files belonging to 2 classes.
Using 680 files for validation.

我們可以通過class_names輸出資料集的標簽，標簽將按字母順序對應于目錄名稱，

class_names = train_ds.class_names
print(class_names)

['cat', 'dog']

2. 再次檢查資料

for image_batch, labels_batch in train_ds:
    print(image_batch.shape)
    print(labels_batch.shape)
    break

(8, 224, 224, 3)
(8,)

Image_batch是形狀的張量（8, 224, 224, 3)，這是一批形狀224x224x3的8張圖片（最后一維指的是彩色通道RGB），
Label_batch是形狀（8，）的張量，這些標簽對應8張圖片

3. 配置資料集

shuffle() ：打亂資料，關于此函式的詳細介紹可以參考：https://zhuanlan.zhihu.com/p/42417456
prefetch() ：預取資料，加速運行，其詳細介紹可以參考我前兩篇文章，里面都有講解，
cache() ：將資料集快取到記憶體當中，加速運行

AUTOTUNE = tf.data.AUTOTUNE

def preprocess_image(image,label):
    return (image/255.0,label)

# 歸一化處理
train_ds = train_ds.map(preprocess_image, num_parallel_calls=AUTOTUNE)
val_ds   = val_ds.map(preprocess_image, num_parallel_calls=AUTOTUNE)

train_ds = train_ds.cache().shuffle(1000).prefetch(buffer_size=AUTOTUNE)
val_ds   = val_ds.cache().prefetch(buffer_size=AUTOTUNE)

如果報 AttributeError: module 'tensorflow._api.v2.data' has no attribute 'AUTOTUNE' 錯誤，就將 AUTOTUNE = tf.data.AUTOTUNE 更換為 AUTOTUNE = tf.data.experimental.AUTOTUNE，這個錯誤是由于版本問題引起的，

4. 可視化資料

plt.figure(figsize=(15, 10))  # 圖形的寬為15高為10

for images, labels in train_ds.take(1):
    for i in range(8):
        
        ax = plt.subplot(5, 8, i + 1) 
        plt.imshow(images[i])
        plt.title(class_names[labels[i]])
        
        plt.axis("off")

三、構建VG-16網路

VGG優缺點分析：

VGG優點

VGG的結構非常簡潔，整個網路都使用了同樣大小的卷積核尺寸（3x3）和最大池化尺寸（2x2），

VGG缺點

1)訓練時間過長，調參難度大，2)需要的存盤容量大，不利于部署，例如存盤VGG-16權重值檔案的大小為500多MB，不利于安裝到嵌入式系統中，

結構說明：

13個卷積層（Convolutional Layer），分別用blockX_convX表示
3個全連接層（Fully connected Layer），分別用fcX與predictions表示
5個池化層（Pool layer），分別用blockX_pool表示

VGG-16包含了16個隱藏層（13個卷積層和3個全連接層），故稱為VGG-16

from tensorflow.keras import layers, models, Input
from tensorflow.keras.models import Model
from tensorflow.keras.layers import Conv2D, MaxPooling2D, Dense, Flatten, Dropout

def VGG16(nb_classes, input_shape):
    input_tensor = Input(shape=input_shape)
    # 1st block
    x = Conv2D(64, (3,3), activation='relu', padding='same',name='block1_conv1')(input_tensor)
    x = Conv2D(64, (3,3), activation='relu', padding='same',name='block1_conv2')(x)
    x = MaxPooling2D((2,2), strides=(2,2), name = 'block1_pool')(x)
    # 2nd block
    x = Conv2D(128, (3,3), activation='relu', padding='same',name='block2_conv1')(x)
    x = Conv2D(128, (3,3), activation='relu', padding='same',name='block2_conv2')(x)
    x = MaxPooling2D((2,2), strides=(2,2), name = 'block2_pool')(x)
    # 3rd block
    x = Conv2D(256, (3,3), activation='relu', padding='same',name='block3_conv1')(x)
    x = Conv2D(256, (3,3), activation='relu', padding='same',name='block3_conv2')(x)
    x = Conv2D(256, (3,3), activation='relu', padding='same',name='block3_conv3')(x)
    x = MaxPooling2D((2,2), strides=(2,2), name = 'block3_pool')(x)
    # 4th block
    x = Conv2D(512, (3,3), activation='relu', padding='same',name='block4_conv1')(x)
    x = Conv2D(512, (3,3), activation='relu', padding='same',name='block4_conv2')(x)
    x = Conv2D(512, (3,3), activation='relu', padding='same',name='block4_conv3')(x)
    x = MaxPooling2D((2,2), strides=(2,2), name = 'block4_pool')(x)
    # 5th block
    x = Conv2D(512, (3,3), activation='relu', padding='same',name='block5_conv1')(x)
    x = Conv2D(512, (3,3), activation='relu', padding='same',name='block5_conv2')(x)
    x = Conv2D(512, (3,3), activation='relu', padding='same',name='block5_conv3')(x)
    x = MaxPooling2D((2,2), strides=(2,2), name = 'block5_pool')(x)
    # full connection
    x = Flatten()(x)
    x = Dense(4096, activation='relu',  name='fc1')(x)
    x = Dense(4096, activation='relu', name='fc2')(x)
    output_tensor = Dense(nb_classes, activation='softmax', name='predictions')(x)

    model = Model(input_tensor, output_tensor)
    return model

model=VGG16(1000, (img_width, img_height, 3))
model.summary()

Model: "model"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
input_1 (InputLayer)         [(None, 224, 224, 3)]     0         
_________________________________________________________________
block1_conv1 (Conv2D)        (None, 224, 224, 64)      1792      
_________________________________________________________________
block1_conv2 (Conv2D)        (None, 224, 224, 64)      36928     
_________________________________________________________________
block1_pool (MaxPooling2D)   (None, 112, 112, 64)      0         
_________________________________________________________________
block2_conv1 (Conv2D)        (None, 112, 112, 128)     73856     
_________________________________________________________________
block2_conv2 (Conv2D)        (None, 112, 112, 128)     147584    
_________________________________________________________________
block2_pool (MaxPooling2D)   (None, 56, 56, 128)       0         
_________________________________________________________________
block3_conv1 (Conv2D)        (None, 56, 56, 256)       295168    
_________________________________________________________________
block3_conv2 (Conv2D)        (None, 56, 56, 256)       590080    
_________________________________________________________________
block3_conv3 (Conv2D)        (None, 56, 56, 256)       590080    
_________________________________________________________________
block3_pool (MaxPooling2D)   (None, 28, 28, 256)       0         
_________________________________________________________________
block4_conv1 (Conv2D)        (None, 28, 28, 512)       1180160   
_________________________________________________________________
block4_conv2 (Conv2D)        (None, 28, 28, 512)       2359808   
_________________________________________________________________
block4_conv3 (Conv2D)        (None, 28, 28, 512)       2359808   
_________________________________________________________________
block4_pool (MaxPooling2D)   (None, 14, 14, 512)       0         
_________________________________________________________________
block5_conv1 (Conv2D)        (None, 14, 14, 512)       2359808   
_________________________________________________________________
block5_conv2 (Conv2D)        (None, 14, 14, 512)       2359808   
_________________________________________________________________
block5_conv3 (Conv2D)        (None, 14, 14, 512)       2359808   
_________________________________________________________________
block5_pool (MaxPooling2D)   (None, 7, 7, 512)         0         
_________________________________________________________________
flatten (Flatten)            (None, 25088)             0         
_________________________________________________________________
fc1 (Dense)                  (None, 4096)              102764544 
_________________________________________________________________
fc2 (Dense)                  (None, 4096)              16781312  
_________________________________________________________________
predictions (Dense)          (None, 1000)              4097000   
=================================================================
Total params: 138,357,544
Trainable params: 138,357,544
Non-trainable params: 0
_________________________________________________________________

四、編譯

在準備對模型進行訓練之前，還需要再對其進行一些設定，以下內容是在模型的編譯步驟中添加的：

損失函式（loss）：用于衡量模型在訓練期間的準確率，
優化器（optimizer）：決定模型如何根據其看到的資料和自身的損失函式進行更新，
評價函式（metrics）：用于監控訓練和測驗步驟，以下示例使用了準確率，即被正確分類的影像的比率，

model.compile(optimizer="adam",
              loss     ='sparse_categorical_crossentropy',
              metrics  =['accuracy'])

五、訓練模型

from tqdm import tqdm
import tensorflow.keras.backend as K

epochs = 10
lr     = 1e-4

# 記錄訓練資料，方便后面的分析
history_train_loss     = []
history_train_accuracy = []
history_val_loss       = []
history_val_accuracy   = []

for epoch in range(epochs):
    train_total = len(train_ds)
    val_total   = len(val_ds)
    
    """
    total：預期的迭代數目
    ncols：控制進度條寬度
    mininterval：進度更新最小間隔，以秒為單位（默認值：0.1）
    """
    with tqdm(total=train_total, desc=f'Epoch {epoch + 1}/{epochs}',mininterval=1,ncols=100) as pbar:
        
        lr = lr*0.92
        K.set_value(model.optimizer.lr, lr)
        
        for image,label in train_ds:      
            """
            訓練模型，簡單理解train_on_batch就是：它是比model.fit()更高級的一個用法
            
            想詳細了解 train_on_batch 的同學，
            可以看看我的這篇文章：https://mtyjkh.blog.csdn.net/article/details/119506151
            """
            history = model.train_on_batch(image,label)
            
            train_loss     = history[0]
            train_accuracy = history[1]
            
            pbar.set_postfix({"loss": "%.4f"%train_loss,
                              "accuracy":"%.4f"%train_accuracy,
                              "lr": K.get_value(model.optimizer.lr)})
            pbar.update(1)
        history_train_loss.append(train_loss)
        history_train_accuracy.append(train_accuracy)
            
    print('開始驗證！')
    
    with tqdm(total=val_total, desc=f'Epoch {epoch + 1}/{epochs}',mininterval=0.3,ncols=100) as pbar:

        for image,label in val_ds:      
            
            history = model.test_on_batch(image,label)
            
            val_loss     = history[0]
            val_accuracy = history[1]
            
            pbar.set_postfix({"loss": "%.4f"%val_loss,
                              "accuracy":"%.4f"%val_accuracy})
            pbar.update(1)
        history_val_loss.append(val_loss)
        history_val_accuracy.append(val_accuracy)
            
    print('結束驗證！')
    print("驗證loss為：%.4f"%val_loss)
    print("驗證準確率為：%.4f"%val_accuracy)

Epoch 1/10: 100%|████████| 340/340 [00:23<00:00, 14.36it/s, loss=1.1077, accuracy=0.6250, lr=9.2e-5]
開始驗證！
Epoch 1/10: 100%|█████████████████████| 85/85 [00:02<00:00, 36.55it/s, loss=0.9331, accuracy=0.6250]
結束驗證！
驗證loss為：0.9331
驗證準確率為：0.6250
Epoch 2/10: 100%|███████| 340/340 [00:19<00:00, 17.49it/s, loss=0.4633, accuracy=0.6250, lr=8.46e-5]

......

Epoch 9/10: 100%|███████| 340/340 [00:19<00:00, 17.36it/s, loss=0.0112, accuracy=1.0000, lr=4.72e-5]
開始驗證！
Epoch 9/10: 100%|█████████████████████| 85/85 [00:01<00:00, 43.46it/s, loss=0.0302, accuracy=1.0000]
結束驗證！
驗證loss為：0.0302
驗證準確率為：1.0000
Epoch 10/10: 100%|██████| 340/340 [00:19<00:00, 17.22it/s, loss=0.0000, accuracy=1.0000, lr=4.34e-5]
開始驗證！
Epoch 10/10: 100%|████████████████████| 85/85 [00:02<00:00, 42.15it/s, loss=0.0231, accuracy=1.0000]
結束驗證！
驗證loss為：0.0231
驗證準確率為：1.0000

# 這是我們之前的訓練方法，
# history = model.fit(
#     train_ds,
#     validation_data=val_ds,
#     epochs=epochs
# )

六、模型評估

epochs_range = range(epochs)

plt.figure(figsize=(12, 4))
plt.subplot(1, 2, 1)

plt.plot(epochs_range, history_train_accuracy, label='Training Accuracy')
plt.plot(epochs_range, history_val_accuracy, label='Validation Accuracy')
plt.legend(loc='lower right')
plt.title('Training and Validation Accuracy')

plt.subplot(1, 2, 2)
plt.plot(epochs_range, history_train_loss, label='Training Loss')
plt.plot(epochs_range, history_val_loss, label='Validation Loss')
plt.legend(loc='upper right')
plt.title('Training and Validation Loss')
plt.show()

七、保存and加載模型

這是最簡單的模型保存與加載方法哈

# 保存模型
model.save('model/21_model.h5')

# 加載模型
new_model = tf.keras.models.load_model('model/21_model.h5')

八、預測

# 采用加載的模型（new_model）來看預測結果

plt.figure(figsize=(18, 3))  # 圖形的寬為18高為5
plt.suptitle("預測結果展示")

for images, labels in val_ds.take(1):
    for i in range(8):
        ax = plt.subplot(1,8, i + 1)  
        
        # 顯示圖片
        plt.imshow(images[i].numpy())
        
        # 需要給圖片增加一個維度
        img_array = tf.expand_dims(images[i], 0) 
        
        # 使用模型預測圖片中的人物
        predictions = new_model.predict(img_array)
        plt.title(class_names[np.argmax(predictions)])

        plt.axis("off")

九、同系列作品

🚀 深度學習新人必看：《小白入門深度學習》

小白入門深度學習 | 第一篇：配置深度學習環境
小白入門深度學習 | 第二篇：編譯器的使用-Jupyter Notebook
小白入門深度學習 | 第三篇：深度學習初體驗

🚀 往期精彩-卷積神經網路篇：

深度學習100例-卷積神經網路（CNN）實作mnist手寫數字識別 | 第1天
深度學習100例-卷積神經網路（CNN）彩色圖片分類 | 第2天
深度學習100例-卷積神經網路（CNN）服裝影像分類 | 第3天
深度學習100例-卷積神經網路（CNN）花朵識別 | 第4天
深度學習100例-卷積神經網路（CNN）天氣識別 | 第5天
深度學習100例-卷積神經網路（VGG-16）識別海賊王草帽一伙 | 第6天
深度學習100例-卷積神經網路（VGG-19）識別靈籠中的人物 | 第7天
深度學習100例-卷積神經網路（ResNet-50）鳥類識別 | 第8天
深度學習100例-卷積神經網路（AlexNet）手把手教學 | 第11天
深度學習100例-卷積神經網路（CNN）識別驗證碼 | 第12天
深度學習100例-卷積神經網路（Inception V3）識別手語 | 第13天
深度學習100例-卷積神經網路（Inception-ResNet-v2）識別交通標志 | 第14天
深度學習100例-卷積神經網路（CNN）實作車牌識別 | 第15天
深度學習100例-卷積神經網路（CNN）識別神奇寶貝小智一伙 | 第16天
深度學習100例-卷積神經網路（CNN）注意力檢測 | 第17天

🚀 往期精彩-回圈神經網路篇：

深度學習100例-回圈神經網路（RNN）實作股票預測 | 第9天
深度學習100例-回圈神經網路（LSTM）實作股票預測 | 第10天

🚀 往期精彩-生成對抗網路篇：

深度學習100例-生成對抗網路（GAN）手寫數字生成 | 第18天
深度學習100例-生成對抗網路（DCGAN）手寫數字生成 | 第19天
深度學習100例-生成對抗網路（DCGAN）生成動漫小姐姐 | 第20天

🚀 本文選自專欄：《深度學習100例》

轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/292863.html

標籤：AI

上一篇：用Python不回頭也能看美女，這招你會了嗎？

下一篇：網路安全技能競賽通關教程

深度學習100例-卷積神經網路（VGG-16）貓狗識別 | 第21天