? 本文將從以下三個方面進行分析:
- 什么是深度學習?
- 深度學習的發展歷程都有哪些?
- 深度學習為什么不用支持向量機呢?
什么是支持向量機?
支持向量機(SVM)是一種有監督的機器學習演算法,可用于分類或回歸問題,它使用一種稱為內核技巧的技術來轉換資料,然后基于這些轉換找到可能輸出之間的最佳邊界,“核”一詞在數學中用來表示加權和或積分的加權函式,支持向量機是一種判別分類器,形式上由分離超平面定義,

支持向量機的優化問題具有凸性,保證了支持向量機的全域最優解,
?
支持向量機是非引數模型,因此,隨著訓練樣本數量的增加,復雜性也隨之增加,計算成本與類的數量成線性增長,
2006年之前,支持向量機是機器學習的最佳通用演算法,2006年,辛頓提出了深度學習和神經網路,
通常,支持向量機在處理特征數量遠遠大于觀察數量的資料集時會遇到困難,深度學習可以克服這些限制,
“深度學習”中的“深度”指的是資料轉換所經過的層數,與經典神經網路相比,深度學習具有大量的層,更多的層捕獲更多的統計不變性,此外,深玻爾茲曼機是通用逼近器,在深度學習中,每個層次學習將其輸入資料轉換為稍微更抽象和復合的表示,
深度學習神經網路通常是通過使用迭代的、基于梯度的優化器來訓練的,它只會將代價函式驅動到一個非常低的值,而不是用于訓練線性回歸模型的線性方程求解器,或用于訓練邏輯回歸或支持向量機的具有全域收斂保證的凸優化演算法,
訓練神經網路的經典方法是使用反向傳播(一種專門用于神經網路的梯度下降方法)最小化(正則化)損失,現代版本的反向傳播依賴于隨機梯度下降(SGD)來有效地逼近海量資料集的梯度,
最近,受限玻爾茲曼機(rbm)被用于所謂的基于能量模型的深度神經網路,rbm在協同過濾中取得了最先進的性能,在深度學習體系結構中,能量的概念被用作衡量模型質量的度量,
深度學習的發展歷程都有哪些?
2012年在解決ImageNet挑戰方面的戲劇性突破被廣泛認為是2010年代深度學習革命的開始,ImageNet專案是一個設計用于視覺物件識別軟體研究的大型視覺資料庫,
2012年,深度學習網路AlexNet贏得了ImageNet挑戰,
深度學習演算法變得更加流行,AlexNet是一個經過ImageNet訓練的深度CNN,它的表現超過了當年所有的條目,該網路由5個轉換層、最大池化層、輟學層和最后3個完全連接層組成,AlexNet使用ReLU處理非線性函式,他們發現這樣可以減少訓練時間,因為ReLU比使用tanh函式要快得多,
2013年,深度學習獲得MICCAI 2013年有絲分裂檢測挑戰賽冠軍,

2015年,微軟ResNet(深度殘差網路)贏得了ImageNet挑戰,微軟ResNet有152層,
深度學習為什么如此受歡迎?
為什么深度學習如此受歡迎,主要有五個原因:
-
深度學習網路可以在大規模并行圖形處理器(gpu)上高效地實作,
-
它們很容易實作,
-
深度學習網路可以處理大量的資料
-
深度學習網路可以在一個模型中進行特征提取和分類,
-
隨著越來越多的資料和計算能力變得可用,深度學習的使用將會增加,
原文地址:深度學習為什么如此受歡迎?都有哪些優點? - Python技術站
?轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/541816.html
標籤:其他
上一篇:C++學習筆記 (2)
