作者： 18屆 CYL

日期： 2020-7-25

標簽： Inception GoogleNet 網路結構

論文期刊：2014年CVPR

一、寫在前面的話：若有差錯，歡迎指正

閑話區：
1、2014年GoogLeNet獲得ImageNet挑戰賽分類專案的第一名，（同年另一個大牛VGG網路獲得第二，但是由于引數過多，計算量太大導致VGG的光環相對來說要暗淡一些，由于后續優化較少，應用有限，后續我不再講解，其中的VGG的一個重要改進會應用在inception v2）

2、神經網路深度與正確率呈正相關（注意：正相關是指對正確率有效，并不是只要深度深正確率就會更高），在增加深度的時候要有數學依據：優化網路結構，層與層之間傳遞的有效性，卷積核的大小，正則化選擇，歸一化選擇等等等等，如果可以解決過擬合和梯度彌散，引數爆炸等問題同時也有一個較好的網路結構，確實是層數越多正確率越好，如2015年的ResNet殘差神經網路解決了過深（上百層）帶來的一些問題，也取得了不錯的效果，（GoogLeNet為22層）

3、深度越深計算量一般會爆炸性增長如VGG，雖然可能正確率會相對較好（VGG正確率大于AlexNet）,但是計算量過大會影響實時分析性，需要更多的訓練資料集還可能會有梯度彌散的問題，增加成本，從而深刻影響這個模型的實際應用，笨重的模型中絕對是有大量的無效引數，完全可以通過改善網路結構來提高層與層之間資料傳輸的有效性，實作在提高層數的同時順便還降低了計算量（VGG雖然引數量為GoogLeNet的36倍，但正確率卻不如GoogLeNet），

4、在設計神經網路模型時不僅要考慮正確率也要考慮計算量，在沒有好方法去消除過深的網路帶來的梯度彌散問題時還要控制網路深度，本模型就是一個提出新的模型結構然后獲得巨大成功的典型例子，

5、相比于學習與了解整個GoogLeNet的網路架構，個人認為學習構建inception結構的思想更為重要， GoogLeNet一開始為inception思想上的一種引陣列合v1，后續陸續進行少量優化提出了inception v2、v3、v4網路結構，Inception與ResNet結合為inception-ResNet，Inception v3保留網路結構，更改網路組成形成xception，讓引數數量減少，計算效率提高，

6、本論文敘述了一個重要的待解決問題：提高神經網路的最直接方式是增加他的深度和寬度，而增加深度和寬度又會帶來引數爆炸，為了減少引數而引入稀疏性，即讓全連接層變為稀疏的全連接甚至是卷積層（本模型中就將原來網路中總存在在最后幾層的全連接層砍掉，只留了一個全連接層方便用于分類），這一操作的理論來源是：由Arora等人已經證明了最優的神經網路結構是一個稀疏的大型結構，也就是說全連接層中很多引數都沒有必要，最優的網路結構可以通過分析前一層的激活情況來構建后一層的網路結構，而稀疏的矩陣計算速度是非常慢的，這就又帶來了計算速度問題，而同時解決這兩個問題的方向是：一個可以結合卷積層水平的稀疏性，又能利用密集矩陣計算來利用硬體的方法是將稀疏矩陣聚類為相對密集的子矩陣會有更加好的性能，在不久的將來可能可以自動構建非均勻的深度學習架構，

7、不同模型的正確率和引數大小（2017年統計圖）
8、彩蛋：GoogLeNet的名字中L大寫是為了向LeNet致敬，論文題目來源是盜夢空間小李子的一句臺詞，GoogLeNet的另一個名字是inception(v1)名稱與盜夢空間英文名一致，

9、注1：以2014年論文going deeper with convolutions 介紹的inception網路結構為開端，并以inception中的一個特例GoogLeNet（inception v1）為基礎介紹其中在前兩次講解中沒出現過的重點技術和策略，然后陸續展開inception的優化方案V2、V3、V4.這時時間線已經到2017年，

二、Inception 的策略：（建議深度理解上述6，來逐步消化策略的）

1、大量應用11卷積層bottleneck（這部分主要知道11卷積操作是什么，下面會用）

• 目的1：作為降維模塊來移除卷積瓶頸，提高網路深度，否則會限制網路大小

• 目的2：大大降低計算量

• 目的3：增加模型非線性表達能力

• 目的4：增加跨通道交流的作用

• 問題1：什么是1*1卷積層
  
  用一個與輸入的深度相同的11depth的卷積核進行卷積操作，讓卷積后的特征圖變為與輸入中的一層的大小相同，
  

• 問題2：為什么11卷積層可以降維，提高網路深度
  經過卷積核操作從原來的6464192變為了6464*1顯然降維了

• 問題3：為什么1*1卷積層可以減少計算量，增加模型非線性表達能力，增加跨通道交流的作用
  直觀的看，也很好理解，過！

思考：

提高網路性能的直接方式是增加他們的尺寸，這不僅包括增加深度（網路層次的數目）也包括他的寬度（每一層的單元數目），但是更大的尺寸意味著更多的引數，是增大的網路容易過擬合，尤其是在訓練集的標注樣本有限的情況下，另一個缺點是計算資源使用的顯著增加，那么如何適量增加網路深度而解決這兩個問題呢？（注：引數的絕大部分集中在全連接層）

2、 Inception 的基本結構是

核心思想：近似實作卷積神經網路的最優稀疏結構并用密集組件進行覆寫，在設計網路的時候簡化為以卷積構建塊為基礎，然后找到最優區域結構來重復搭建，在設計區域結構時假設較早層的每個單元對應輸入層的某些區域，并且這些單元被分成濾波器組，（我的理解是：不同大小的濾波器組相當于對稀疏矩陣有了一定的聚類效果），在較低的層相關單元集中在區域區域，那么通過1*1卷積覆寫，就相當于將稀疏矩陣轉變為稠密矩陣，卷積核的大小1 3 5 是基于方便性，而并沒有其他特殊的原因，(上述思想是期望該結構會有效果，inception也取得了正確性的巨大成功，但是否是由于網路結構而導致的正確率飆升，需要進一步的觀察，）

貼圖的小問題：這張圖上展示的卷積核大小不一樣導致卷積過后的模型不一樣，這點影像其實錯誤的，卷積過后的大小都一樣才可以進行下一次的卷積，

解釋：假如上圖輸入是11113影像，第一種卷積核為553的，padding = 2 strip = 1那么卷積過后的影像大小為（11+22-5）/1+1 = 11 所以為11111的特征影像 第二種卷積核為333的，padding = 1,strip = 1 那么卷積過后的影像大小為（11+12-3）/1 +1=11 所以為11111的特征影像，第三種卷積核為113的卷積核，padding = 0 strip = 1那么為11111的特征影像，（卷積核的厚度默認與輸入一致）

我的不同理解：ZFNet對AlexNet的改進是將第一層1111的大卷積核改成77來達到提升網路性能的目的，但是每一張圖片的第一層都用77這件事直觀的想，合理嗎？有的照片里面人臉大，有的照片人臉小，同一張照片也有大特征也有小特征，但是每一層都用固定大小的卷積核合適嗎？顯然不合適，那么是不是可以每一層設定不同大小的卷積核，這樣做會有什么問題，又怎么樣解決？

問題：如果采用這種結構，會讓網路中的每一層越來越厚，引數爆炸——max pooling的厚度與原模型大小一樣，再加上不定量的11,33,55 別提有多大了，解決方式如下：

3、 大量應用NIN（Network in Network）

• 好處1：控制網路中每一層的厚度，防止每一層的厚度爆炸，即：降維 具體解釋如：上述1
• 好處2：起初NIN是為了增加神經網路表現能力而提出的一種方法，在他們的模型中，網路中添加了額外的1*1卷積層，增加網路的深度，
  

4、額外的并行池化層

整個網路是由上述的inception module堆疊形成的，其輸出濾波器組連接成單個輸出向量形成了下一階段的輸入，另外，由于池化操作對于目前卷積網路的成功至關重要，，因此建議在每個這樣的階段添加一個替代的并行池化路徑，這個操作應該有額外的有益效果（此部分為論文翻譯）

5、整體網路結構

整個inception v1（GoogLeNet）是有上述模塊相互堆疊組成的網路，偶爾會有步長為2的最大池化層將網路的解析度減半，
由于這些inception模塊在彼此的頂部堆疊，其輸出相關統計必然有變化：由于較高層會捕獲較高的抽象特征，其空間集中度預計會減少，這就意味著在更高層的時候33與55的比例應該會增加，

33reduce是在33卷積之前降維層使用的1*1濾波器的數量

6、輔助分類器的使用

由于深度較大的網路，讓梯度下降反向傳播有效的通過所有層是一個問題，在這個任務上，通過在中間層引入輔助分類器來在一定程度上消除此問題，

• 問題1：輔助分類器是什么？
  實質是增加了正則化項（與L2正則化項相似，對誤差進行一定的修改）
• 問題2：如何操作？
  使用inception(4a)與inception(4b)模塊的輸出，進行分類操作，然后將誤差乘上0.3加到整個網路的損失之上，（在推斷時，把這部分去掉就好）
  
  具體結構如下：
  ? 一個卷積層55，步長為3的平均池化層
  ? 具有128個濾波器的11卷積，用于降維和修正線性激活
  ? 一個全連接層，具有1024個單元
  ? Softmax的線性層作為分類器

7、最終網路結構

結果：

注： 若有侵權請聯系我們