今天為大家介紹五篇值得閱讀的ECCV 2020 oral【影像識別】相關論文，ECCV與CVPR、ICCV并稱為計算機視覺領域三大頂會，ECCV 2020共有5025篇投稿，其中1361篇被接受，接受率為27%，
ECCV 2020接受論文串列地址：
https://eccv2020.eu/accepted-papers/
第1篇：自適應學習網路寬度與輸入解析度
論文題目：《MutualNet: Adaptive ConvNet via Mutual Learning from Network Width and Resolution》
下載地址： https://arxiv.org/abs/1909.12978
github：https://github.com/taoyang1122/MutualNet
介紹：深度神經網路已經在各種感知任務取得了巨大的勝利，然而，深度神經網路通常需要大量的計算資源，這使得它們很難部署在移動設備和嵌入式系統上，本文對此所做的貢獻是：
-
強調輸入解析度對于設計高效網路的重要性，以往的研究要么忽略它，要么把它從網路結構中分離出來，相比之下，本文將網路寬度和輸入解析度嵌入到一個統一的相互學習框架中來學習一個深度神經網路（MutualNet），它可以在運行時實作自適應的精度和效率的權衡，
-
進行了大量的實驗，以證明MutualNet的性能明顯優于獨立訓練的網路，
-
我們進行全面的消融研究，以分析提議的相互學習方案，我們進一步證明，我們的框架有望作為即插即用策略來提高單個網路的性能，其性能大大超過了流行的性能提升方法，例如，資料擴充，SENet和知識蒸餾，
-
建議的架構是一個通用的訓練計劃，與模型無關，它可以應用于任何網路，而無需對結構進行任何調整，這使得它與其他最先進的技術兼容，例如，神經結構搜索(NAS)，自動資料增強技術，
本文提出了一種在動態資源約束（如每秒浮點運算次數）下訓練網路的方法，該方法提出了一個輸入解析度和網路寬度的互學習方案，在運行時實作自適應精度-效率權衡的約束，在影像分類、目標檢測和實體分割等各種任務上，顯著提高了輕量網路的精度和效率的權衡，在COCO目標檢測、實體分割和遷移學習等方面也驗證了該方法的優越性，令人驚訝的是，MutualNet的訓練策略還可以提高單個網路的性能，在效率（GPU搜索小時數：15000 vs 0）和準確性（ImageNet:77.6% vs 78.6%）方面都大大優于強大的自動資料增強技術，
該互學習方案也被證明是提高單網路性能的有效訓練策略，該框架的通用性使其能夠很好地轉換為通用的問題域，還可以擴展到視頻輸入和3D神經網路，其空間和時間資訊都可以得到利用，
總體框架如下所示：
第2篇：基于隨機特征采樣和插值的空間自適應推理
論文題目：《Spatially Adaptive Inference with Stochastic Feature Sampling and Interpolation》
下載地址： https://arxiv.org/pdf/2003.08866.pdf
github： 暫未發現（歡迎留言補充）
介紹：在卷積神經網路（CNN）的特征映射中，普遍存在大量的空間冗余、重復處理，為了減少這種多余的計算，本文提出了一種減少卷積網路計算量的方法：只計算稀疏采樣位置的特征，這些位置是根據激活回應概率選擇的，然后使用有效的插值程序對特征圖進行密集重構，
利用特征映射中固有的稀疏性和空間冗余性，我們避免了在可有效插值的空間位置進行昂貴的計算，
框架圖：
第3篇：開放集識別的混合模型
論文題目：《Hybrid Models for Open Set Recognition》
下載地址： https://arxiv.org/abs/2003.12506
github：暫未發現（歡迎留言補充）
介紹：開放集識別需要一個分類器來檢測不屬于其訓練集中任何類的樣本，現有的方法對訓練樣本的嵌入空間上擬合一個概率分布，并根據這個分布來檢測離群點，然而，這種分類只關注已知的類，對于區分未知的類可能沒有什么效果，本文認為，表示空間應該由內層分類器和密度估計器（作為離群點檢測器）共同學習，為此，提出了OpenHybrid框架，該框架由一個編碼器將輸入資料編碼到一個聯合嵌入空間，一個分類器將樣本分類到一個內部類，以及一個基于流的密度估計器來檢測樣本是否屬于未知類別，大量的實驗表明我們的方法達到了最先進的水平，基于流的模型的一個常見問題是，它們通常為分布外的樣本分配更大的可能性，通過學習一個聯合特征空間，以及在不同的資料集上進行觀察，這個問題得到了解決，研究還表明，聯合訓練是促進開放集的識別性能的另一個關鍵因素，
框架圖：
第4篇：梯度集中(GC):一種新的深層神經網路優化技術
論文題目：《Gradient Centralization: A New Optimization Technique for Deep Neural Networks》
下載地址： https://arxiv.org/abs/2004.01461
github： https://github.com/Yonghongwei/Gradient-Centralization
介紹：優化技術對于有效地訓練深度神經網路（DNN）具有重要意義，與現有的基于激活度或權值的優化方法不同，本文提出了一種新的優化技術，即梯度集中（gradient centralization，GC），它通過將梯度向量集中到零均值的方式，直接對梯度進行操作，通過綜合實驗表明，GC可以對權值空間和輸出特征空間進行規整，可以很好地應用于不同優化器和網路架構下的不同任務，提高了訓練效率和泛化性能，
框架圖：
第5篇：多任務學習增強對抗魯棒性
論文題目：《Multi-task Learning Increases Adversarial Robustness》
下載地址：https://arxiv.org/pdf/2007.07236.pdf
github：暫未發現（歡迎留言補充）
介紹：雖然深度網路在一系列計算機視徑訓準上達到了很強的精確度，但它們仍然容易受到對手的攻擊，一些無法察覺的干擾資料欺騙了網路，本文提供了理論和實證分析，將一個模型的對抗魯棒性與它所訓練的任務數量聯系起來，在兩個資料集上的實驗表明，攻擊模型的難度隨著目標任務數量的增加而增加，此外，我們的結果表明，當模型在同時進行多任務訓練時，它們在單個任務的對抗攻擊中會變得更穩健，也就是說，訓練任務數量低的情況下，模型更容易受到對手的攻擊，我們的作業是第一次將這種脆弱性與多任務學習聯系起來，并暗示了一個新的研究方向，以理解和減輕這種脆弱性，
歡迎關注磐創AI博客站：
http://panchuang.net/
sklearn機器學習中文官方檔案：
http://sklearn123.com/
歡迎關注磐創博客資源匯總站：
http://docs.panchuang.net/
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/191166.html
標籤：其他
上一篇：NLP：不要重新造輪子