<style></style> <style></style> <style></style> <style></style>
上文中實作了LeNet-5卷積網路，不可否認這是一個十分經典的網路結構，但是迫于種種復雜的現實場景限制，只能在一些領域應用，所以在接下來的10年間，卷積網路的鋒芒一度被SVN演算法覆寫，直到2012年AlexNet的提出，2012年Imagenet影像識別大賽中，Alext提出的AlexNet網路模型一鳴驚人，引爆了神經網路的應用熱潮，并且贏得了2012屆影像識別大賽的冠軍，這也使得卷積神經網路真正意義上成為影像處理上的核心演算法，AlexNet網路相比于之前的卷積網路模型有以下幾點創新：
(1)使用relu作為激活函式，在上世紀末，神經網路大多還是使用sigmod或tanh作為激活函式，使用relu作為激活函式是AlexNet網路開創的先河，
(2)使用GPU并行運算，AlexNet使用兩張GPU同時訓練模型，大大加快了模型訓練的速度，
(3)最大池化，在AlexNet出現以前，大多使用平均池化，
(4)dropout操作，隨機殺死部分神經元，防止過擬合，
(5)資料增強，從原始圖片中隨機截取固定大小的子圖，構建更大規模資料集，
AlexNet網路結構如下圖所示（注：圖片來源于博客），
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/31283.html
標籤：其他