Expectation Maximization,EM演算法是帶有隱變數的概率模型引數的極大似然估計(MLE為給定引數,觀測資料出現/生成的可能性),
如下為《統計機器學習》中對應EM演算法的筆記,
- 觀測資料Y和隱變數X合稱,完全資料
- 觀測資料Y稱,不完全資料
E步:(期望步)求Q函式(上一輪引數固定,模型引數為變數的函式),即期望(原始似然函式的下界)
M步:(極大步)求Q函式的區域極值
通過迭代法逐步逼近原始似然函式的解
EM演算法本質是,有隱變數的似然函式的MLE,通過計算Q函式,得到似然函式的下界,然后最大化下界這一迭代程序,來優化引數,
Q函式本身是一個條件期望, EM演算法就在E步求期望,M步最大化它,
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/550211.html
標籤:其他
上一篇:Hyperledger Fabric 使用 CouchDB 和復雜智能合約開發
下一篇:資料結構之哈夫曼樹與哈夫曼編碼
