1x1卷積核有啥具體的作用？？
uj5u.com熱心網友回復：
實作跨通道的互動和資訊整合進行卷積核通道數的降維和升維
1×1的卷積層（可能）引起人們的重視是在NIN的結構中，論文中林敏師兄的想法是利用MLP代替傳統的線性卷積核，從而提高網路的表達能力。文中同時利用了跨通道pooling的角度解釋，認為文中提出的MLP其實等價于在傳統卷積核后面接cccp層，從而實作多個feature map的線性組合，實作跨通道的資訊整合。而cccp層是等價于1×1卷積的，因此細看NIN的caffe實作，就是在每個傳統卷積層后面接了兩個cccp層（其實就是接了兩個1×1的卷積層）。
進行降維和升維引起人們重視的（可能）是在GoogLeNet里。對于每一個Inception模塊，卷積核都比較小，但是當輸入和輸出的通道數很大時，乘起來也會使得卷積核引數變的很大，而加入1×1卷積后可以降低輸入的通道數，卷積核引數、運算復雜度也就跟著降下來了
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/279013.html
標籤：Qualcomm開發
下一篇：進行模型訓練時，常出現 Check failed: error == cudaSuccess (2 vs. 0) out of memory？？