目錄
先驗概率
條件概率
全概率公式
求遲到原因的概率(堵車造成,拉肚子造成,有事情造成)
堵車造成遲到概率
舉例
計算抽取不合格產品概率
問題:抽到產品不合格來源于誰
1)先驗概率
2)可能性函式
3)后驗概率
貝葉斯定理
韋恩圖
貝葉斯分類
分類問題綜述
樸素貝葉斯分類
樸素貝葉斯分類的優缺點
"最簡單通俗的解釋,貝葉斯定理是什么? - 知乎"
?
先驗概率是在缺乏某個事實的情況下描述一個變數;
后驗概率是在考慮了一個事實之后的條件概率;
頻率概率的計算公式,你可以輕松的知道中獎的概率=中獎球數(2個白球)/球總數(2個白球+8個黑球)=2/10

頻率概率的計算公式,你可以輕松的知道中獎的概率=中獎球數(2個白球)/球總數(2個白球+8個黑球)=2/10


1)要求解的問題:女神喜歡你,記為A事件
2)已知條件:女神經常沖你笑,記為B事件
1)先驗概率
我們把P(A)稱為"先驗概率"(Prior probability),也就是在不知道B事件的前提下,我們對A事件概率的一個主觀判斷,
對應這個例子里就是在不知道女神經常對你笑的前提下,來主觀判斷出女神喜歡一個人的概率,這里我們假設是50%,也就是不喜歡你,可能不喜歡你的概率都是一半,
2)可能性函式
P(B|A)/P(B)稱為"可能性函式"(Likelyhood),這是一個調整因子,也就是新資訊B帶來的調整,作用是將先驗概率(之前的主觀判斷)調整到更接近真實概率,
可能性函式你可以理解為新資訊過來后,對先驗概率的一個調整,
如果"可能性函式"P(B|A)/P(B)>1,意味著"先驗概率"被增強,事件A的發生的可能性變大;如果"可能性函式"=1,意味著B事件無助于判斷事件A的可能性;如果"可能性函式"<1,意味著"先驗概率"被削弱,事件A的可能性變小,
還是剛才的例子,根據女神經常沖你笑這個新的資訊,我調查走訪了女神的閨蜜,最后發現女神平日比較高冷,很少對人笑,也就是對你有好感的可能性比較大(可能性函式>1),所以我估計出"可能性函式"P(B|A)/P(B)=1.5(通過以往資料得知)
3)后驗概率
P(A|B)稱為"后驗概率"(Posterior probability),即在B事件發生之后,我們對A事件概率的重新評估,這個例子里就是在女神沖你笑后,對女神喜歡你的概率重新預測,
帶入貝葉斯公式計算出P(A|B)=P(A)* P(B|A)/P(B)=50% *1.5=75%
先驗概率
?
?
條件概率
?
?
由于堵車造成遲到的原因
?
?
條件概率:硬幣自由正反兩面(常識);
?
?
?
?
后驗概率
?
?
全概率公式
?
?
求遲到原因的概率(堵車造成,拉肚子造成,有事情造成)
?
堵車造成遲到概率


?
B:遲到 A:堵車

總結:
資料分析最基礎的思維:貝葉斯定理,手把手教你學會
我遲到的原因只可能是堵車、鬧鐘壞了、拉肚子三種情況中的一種,且這三種情況不可能同時發生,那么我今天如果又遲到了,造成的原因是什么的概率最大呢?
這個問題已經無法用拋硬幣來進行解決了,因為傳統頻率主義是無法解決實際問題的
換言之拋硬幣問題只存在于理論中,實際生活中某個事件的發生條件或結果一定是復雜的
比如遲到這個事件,我們已經知道了引起遲到的所有條件,且這些條件都是相互獨立且互斥的
那么想要求出遲到的概率,就可以將這個復雜事件拆分成幾個條件概率,比如遲到的概率可以拆分成:
=P(堵車且遲到)+P(鬧鐘壞了且遲到)+P(拉肚子且遲到)=P(堵車)*P(遲到 | 堵車)+P(鬧鐘壞了)*P(遲到 | 鬧鐘壞了)+P(拉肚子)*P(遲到 | 拉肚子)
如果有多個事件,就可以用公式這么進行表達:

這就是全概率公式,簡單來說就是用來進行復雜事件概率求算的,
那么回到問題,想要求哪個原因造成的遲到概率最大,比如先求遲到的原因概率,就可以根據條件概率和全概率進行推導:
=P(堵車且遲到)/ P(遲到)=P(堵車)*(遲到 | 堵車) / P(堵車)*P(遲到 | 堵車)+P(鬧鐘壞了)*P(遲到 | 鬧鐘壞了)+P(拉肚子)*P(遲到 | 拉肚子)
用公式表達就是

如果你看到這里,那么恭喜你你已經成功推匯出了貝葉斯定理的公式
其中不難發生,這個公式的分母其實就是全概率公式,也就是P(B),所以貝葉斯公式又可以寫成下面這個形式:
![]()
其核心思想是當你不能準確知悉一個事物的本質時,你可以依靠與事物特定本質相關的事件出現的多少去判斷其本質屬性的概率,
?
?
舉例
?
計算抽取不合格產品概率
?
11.2%:B事件
問題:抽到產品不合格來源于誰
貝葉斯計算公式
?

最侄訓成百分制;
? =29.8%
?
?
貝葉斯定理
結合開車來理解貝葉斯公式
我們來看看貝葉斯公式是怎么寫的:
?
?
? 如果我們知道,在整個車輛行駛程序中,會有 的概率打右轉彎燈,即
? ,我們就可以計算
? 了,
因此貝葉斯就是:
?
韋恩圖
又稱文氏圖,是一種簡單的圖形,也是科研文章中最常見的圖,可以用來表示多個資料集的大致之間的關系,當然也可以進行集合運算,繪制韋恩圖的工具有很多,在此,小編總結了幾種常用簡單的在線繪制韋恩圖的在線的工具.
我們可以看到有形的十字路口,卻看不到明天是否下雨,我們可以看到前方是否有路障,卻不清楚下一次飛機是否會出事,甚至有時候,眼睛還會欺騙我們,
很多時候,我們不得不看著后視鏡開車,這個時候概率論、貝葉斯定理就是我們的指路明燈,
看著后視鏡開車,肯定常常會撞車,沒關系,我們可以不斷的去修正我們的假設,
比如,撞了幾次車之后,就發現可能之前估計的在十字路口打右轉彎燈的資料明顯偏大了,我們修正之后再繼續開車,我們人類的學習,本身也是一個試錯的程序,
貝葉斯定理現在很多人在研究,就是因為不少人相信貝葉斯定理和人腦的作業機制很像,因此成為機器學習的基礎,
比如,你和對方聊天的時候,如果對方說出我們的大腦看起來就好像是天生在用貝葉斯定理,“雖然”兩個字,你大概就會猜測,對方后繼九成的可能性會說出“但是”,
后來,google由自然語言處理專家賈里尼克領導的部門,通過統計、概率方法進行上述研究,正確率提高了很多,在書中也列舉了貝葉斯定理是如何參與自然語言處理的,
語法是人類后來總結出來的,我們天生是不需要語法就可以開口說話的,或許,人腦真的是貝葉斯大腦,
貝葉斯分類
貝葉斯分類是一類分類演算法的總稱,這類演算法均以貝葉斯定理為基礎,故統稱為貝葉斯分類,而樸素樸素貝葉斯分類是貝葉斯分類中最簡單,也是常見的一種分類方法,
分類問題綜述
對于分類問題,其實誰都不會陌生,日常生活中我們每天都進行著分類程序,例如,當你看到一個人,你的腦子下意識判斷他是學生還是社會上的人;你可能經常會走在路上對身旁的朋友說“這個人一看就很有錢、”之類的話,其實這就是一種分類操作,
既然是貝葉斯分類演算法,那么分類的數學描述又是什么呢?
從數學角度來說,分類問題可做如下定義:已知集合
?
其中C叫做類別集合,其中每一個元素是一個類別,而I叫做項集合(特征集合),其中每一個元素是一個待分類項,f叫做分類器,分類演算法的任務就是構造分類器f,
分類演算法的內容是要求給定特征,讓我們得出類別,這也是所有分類問題的關鍵,那么如何由指定特征,得到我們最終的類別,也是我們下面要講的,每一個不同的分類演算法,對應著不同的核心思想,
樸素貝葉斯分類
那么既然是樸素貝葉斯分類演算法,它的核心演算法又是什么呢?
是下面這個貝葉斯公式:
?
換個表達形式就會明朗很多,如下:最簡單通俗的解釋,貝葉斯定理是什么? - 知乎
?
我們最終求的p(類別|特征)即可!就相當于完成了我們的任務,
樸素貝葉斯分類的優缺點
優點:
(1) 演算法邏輯簡單,易于實作
(2)分類程序中時空開銷小
缺點:
理論上,樸素貝葉斯模型與其他分類方法相比具有最小的誤差率,但是實際上并非總是如此,這是因為樸素貝葉斯模型假設屬性之間相互獨立,這個假設在實際應用中往往是不成立的,在屬性個數比較多或者屬性之間相關性較大時,分類效果不好,
而在屬性相關性較小時,樸素貝葉斯性能最為良好,對于這一點,有半樸素貝葉斯之類的演算法通過考慮部分關聯性適度改進,
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/302962.html
標籤:AI
下一篇:手搓線性回歸

