文章目錄
- 一、資源推薦
- 二、菜雞學習筆記
- 三、小結
- 四、下一階段
- 五、特別鳴謝
一、資源推薦
(1)Pytorch的vision庫等:https://github.com/pytorch/vision等
動手中出現問題時應多學習官方檔案or維基百科
(2)李宏毅機器學習課程 + 吳恩達深度學習
(3)datawhale學習筆記
(4)阿里云天池的學習資料也挺多,如 https://tianchi.aliyun.com/course/311/3558
二、菜雞學習筆記
(1)【李宏毅機器學習CP1-3】(task1)機器學習簡介&分類|回歸

學習了上圖的ML分類及應用,和如下的三個步驟及其細節:
step1:模型假設,選擇模型框架(線性模型)
step2:模型評估,如何判斷眾多模型的好壞(損失函式)
step3:模型優化,如何篩選最優的模型(梯度下降)
(2)【李宏毅機器學習CP4】(task2)回歸+Python Basics with Numpy

(3)【李宏毅機器學習CP5-8】(task3上)誤差分析+梯度下降優化
(4)【李宏毅機器學習CP9】(task3下)PM2.5預測+numpy實作神經網路logistic回歸
(5)網路設計技巧(5小節)
【李宏毅深度學習CP13】task4-DL引子順便完成了【吳恩達DL】(task4)手把手構建你的Deep Neural Network
【李宏毅深度學習】(task5)網路設計技巧1—Local Minimum和鞍點
【李宏毅深度學習】(task5)網路設計技巧2—Batch and Momentum
【李宏毅深度學習】(task5)網路設計技巧3—Adaptive Learning Rate
【李宏毅深度學習】(task5)網路設計技巧4—Batch Normalization
【李宏毅深度學習】(task5)網路設計技巧5—Classification部分
(6)【李宏毅機器學習CP21】(task6)卷積神經網路
1)CNN誤差反向傳播的細節可以參考《深度學習的數學》P200的5.5部分,還沒看,task3的食物圖片分類作業還在做——【李宏毅機器學習2021】卷積神經網路HW3-Image Classification,
2)卷積層可通過重復使用卷積核有效地表征區域空間,卷積核(過濾器
f
i
l
t
e
r
filter
filter)通過卷積的計算結果(相似度)表示該卷積核和掃描過的影像塊的灰色格子部分相吻合的個數——該值越大則說明越符合卷積核的偏好程度,
——卷積的結果矩陣為特征映射(
f
e
a
t
u
r
e
feature
feature
m
a
p
map
map)
3)說到內積,要和 H a d a m a r d Hadamard Hadamard乘積區分,后者是將相同形狀的矩陣A和B的相同位置的元素相乘,產生的矩陣,
三、小結
繼續沖鴨,把李宏毅2021干完,做對應的作業(如下圖作業路線),

上圖源自:http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML20.html
最新的課程鏈接可以看:https://speech.ee.ntu.edu.tw/~hylee/ml/2021-spring.html
作業在Colab有,如CNN:https://colab.research.google.com/drive/16a3G7Hh8Pv1X1PhZAUBEnZEkXThzDeHJ#scrollTo=D_a2USyd4giE
四、下一階段
- 繼續學習李宏毅老師的深度學習2021課程
- 一定要做task作業,提交kaggle,動手能力有待加強
五、特別鳴謝
- datawhale notebook and all the people who help me,such as Tong supervised me hhhh
- 可以參考下知乎用戶"愛XR的麥子"總結(理解得挺到位,各內容之間的聯系):https://zhuanlan.zhihu.com/p/392927787
- 李大佬的圖文很詳細:https://www.cnblogs.com/Lee-yl/p/15056681.html
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/290563.html
標籤:AI
