神經網路與機器學習第3版學習筆記
-初學者的筆記，記錄花時間思考的各種疑惑
本文主要闡述該書在數學推導上一筆帶過的地方，參考學習，在流暢理解書本內容的同時，還能溫顧學過的數學知識，達到事半功倍的效果，
第0章 導言
1、第9頁
1.1 logistic函式在原點的傾斜率等于a/4？
$\,\,\varphi \left( v \right) =\frac{1}{1+e^{-av}}\Rightarrow \,\,\varphi’\left( v \right) =\frac{ae^{-av}}{\left( 1+e^{-av} \right) ^2}\Rightarrow \varphi \left( 0 \right) =\frac{a}{4}$
※logistic函式 $f\left( x \right) =\frac{1}{1+e^{-x}}$ 相關知識補充，
$\because \,\,f’\left( x \right) =\frac{e^{-x}}{\left( 1+e^{-x} \right) ^2}$
$\therefore \,\,f’\left( x \right) =f\left( x \right) \cdot \left( 1-f\left( x \right) \right) $
1.2 signum函式 $sgn \left( x \right) =\frac{x}{\left| x \right|}$
中文名：正負號函式，又稱為符號函式，
※與絕對值函式 $f\left( x \right) =\left| x \right|$ 的關系：$sgn \left( x \right) =f’\left( x \right) $，
2、第11頁
2.1 二項式 $\left( 1-wz^{-l} \right) ^{-l}$ 展開結果為 $\frac{1}{\underset{l=0}{\overset{\infty}{\varSigma}}w^l}z^{-l}$ ？
$\because $廣義二項式定理：$\left( x+y \right) ^{\alpha}=\underset{k=0}{\overset{\infty}{\varSigma}}C_{\alpha}^{k}x^{\alpha -k}y^k$
$\therefore \left( 1-x \right) ^{-n}=\frac{1}{\left( 1-x \right) ^n}=\frac{1}{\underset{l=0}{\overset{\infty}{\varSigma}}C_{n}^{l}x^l}$
$\therefore \left( 1-wz^{-1} \right) ^{-1}=\frac{1}{\underset{l=0}{\overset{\infty}{\varSigma}}C_{1}^{l}\left( wz^{-1} \right) ^l}=\frac{1}{\underset{l=0}{\overset{\infty}{\varSigma}}w^l}z^{-l}$
3、第12頁
3.1 圖14中的輸出信號指的是第一次的輸入信號所產生的輸出，而不是該次的總輸出，
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/67663.html
標籤：其他
上一篇：聲學回聲消除(Acoustic Echo Cancellation)原理與實作
下一篇：AB實驗的高端玩法系列1 - AB實驗人群定向/個體效果差異/HTE/Uplift Model 論文github收藏