作者|Tivadar Danka
編譯|VK
來源|Towards Data Science
抽象是為了隱藏不相關的東西，只關注重要的細節，雖然有時看起來很可怕，但它是管理復雜性的最佳工具，
如果你讓n個數學家來定義數學是什么，你可能會得到2n個不同的答案，我的定義是，它是一門將事物抽象出來，直到只剩下核心的科學，為任何事物的推理提供了最終的框架，
你想過概率到底是多少嗎？你肯定用它來推理資料，做統計分析，甚至通過統計學習為你建立推理演算法，在這篇文章中，我們將深入探索概率論，
前置知識
為了貫徹下去，你不需要任何高等數學，我會集中精力從基礎上解釋一切，但是，如果你知道以下幾點，這是有益的：
-
集合和集合運算，如并集、交集和差集，
-
極限和一些基本微積分，
事件與度量
概率可以被啟發式地認為是一個函式，用來測量事件發生的可能性，但從數學上講，目前還不清楚什么是事件和度量，在我們能恰當地討論概率之前，我們需要先打下堅實的基礎，所以，讓我們從事件開始，
事件
“我用這個骰子擲奇數的概率是多少？”
當我們談到概率時，這個簡單的問題作為一個例子出現在我們的腦海中，在這個簡單的問題中，事件是擲出一個奇數，
為了進行數學建模，我們使用集合，包含實驗結果的基本集合“全集”是Ω={1，2，3，4，5，6}，事件是Ω的子集，這里，擲出奇數對應于子集A={1，3，5}，
所以，要定義概率，需要一個基礎集Ω和它的子集∑的集合，我們稱之為事件，然而，∑不能只是子集的任何集合，必須滿足三個條件，
-
Ω是一個事件，
-
如果X是一個事件，那么它的補Ω\X也是一個事件，也就是說，一個沒有發生的事件也是另一個事件，
-
事件的聯合也必須是事件，也就是說，事件和其他事件的聯合也是一個事件，
如果滿足這些條件，∑稱為σ-代數，用適當的數學術語：
在我們的情況下，我們有
當Ω是實數集時，出現了一個更有趣的情況，稍后我們將看到，如果實數的所有子集都被視為事件，那么會發生非常奇怪的事情，
描述σ-代數
這些用σ-代數定義的事件空間很難描述，我們可以立即看到，為了在一個非平凡的基集Ω上有一個有意義的事件空間，我們應該有無限多的事件，
例如，我們在一塊板上發射子彈，想計算擊中某個區域的概率，在這些情況下，指定一些子集并取包含這些子集的最小σ-代數就足夠了，
假設我們在射擊一塊矩形板，如果我們說我們的事件空間是包含板的所有矩形子集的最小σ-代數，那么我們
-
對σ-代數有一個非常簡單的描述，
-
會有各種形狀，因為σ-代數在并集下是閉的，
很多集合可以描述為矩形的無限并集，如下所示，
我們稱板內的矩形集合為生成集，而稱最小的σ-代數為生成σ-代數，
你可以將此生成程序視為獲取生成集的所有元素，并以所有可能的方式獲取聯合和補集，
既然我們有了一個處理事件的數學框架，我們就應該把注意力轉向測量，
測量
雖然直觀地衡量某件事情是很清楚的，但這是一件很難正式化的事情，度量基本上是一個函式，將一個集合映射到一個數字，舉一個簡單的例子，測量三維物體的體積似乎很簡單，但即使在這里，我們也有嚴重的問題，你能想出一個你無法測量面積的物體嗎？
也許你不能馬上，但絕對不是這樣，可以看出，如果空間的每一個子集都有一個定義明確的體積，那么就可以取一個單位體積的球體，將其分割成若干塊，并將兩個單位體積的球體放在一起，
這就是所謂的Banach-Tarski悖論，由于你不能真正做到這一點，因此你無法測量空間中每個子集的體積，
但在這種情況下，有什么措施呢？實際上，我們只有三個條件：
- 一個度量值應該總是正的；
- 空集的度量值應該是零；
- 如果你把不相交集的度量值加起來，你就得到了它們的并集的度量值，
為了正確地定義它們，我們需要子集的基集Ω和∑σ-代數，函式
是一種衡量，如果
屬性3，稱為σ-可加性，如果我們只有有限個集，我們將簡單地稱之為度量的可加性，
這個定義只是體積度量的抽象，這可能看起來很奇怪，但這三個屬性才是最重要的，其他一切都是從他們那里來的，例如，我們有
這是因為A\B和B是不相交的，它們的并集是A，
另一個重要的性質是度量的連續性，也就是
此屬性類似于實值函式連續性的定義，因此命名不是偶然的，
描述度量
正如我們在σ-代數中看到的，你只需要給出一個生成集，而不是一個完整的σ-代數，這對我們處理措施非常有用，雖然度量是在σ-代數上定義的，但是在生成子集上定義度量就足夠了，因為由于σ-可加性，它決定了σ-代數中每個元素的測度，
概率的定義
現在一切都被設定為數學上定義概率，
概率空間由元組定義
其中Ω是基集，∑是其子集的σ-代數，P是這樣的度量
所以，概率與面積和體積等量密切相關，面積、體積和概率都是在各自的空間里測量的，然而，這是一個相當抽象的概念，所以讓我們舉幾個例子，
拋硬幣
最簡單的概率空間由拋硬幣事件來描述，假設我們用0編碼正面，用1編碼反面
由于σ-代數和測度的性質，你只需要定義事件{0}(頭)和事件{1}(尾)的概率，這就完全域定了概率測度，
亂數
一個更有趣的例子是亂數生成，如果你熟悉Python，那么可能已經使用了隨機的函式，它給你一個介于0和1之間的亂數，雖然這看起來很神秘，但是用概率空間來描述它是相當簡單的，
再次注意，這足以給出生成集各元素的概率，例如，我們有
要查看更復雜的示例，什么是P({0.5})？我們如何計算選出0.5的概率？(或介于0和1之間的任何其他數字)為此，我們需要依賴度量的屬性，我們有
其中，這適用于所有ε>0，這里，我們使用了概率測度的可加性，因此，這就意味著
同樣，因為它適用于所有的ε>0，這意味著概率小于任何正實數，所以它必須為零，
對于任何0≤x≤1，都有一個類似的論點，看到選擇一個特定數字的概率為零，可能會令人驚訝，所以，在生成亂數并觀察結果之后，要知道它發生的概率正好為0，然而，你面前還有一個結論，
零概率事件是可能發生的，
分布和密度
我們已經走了很長的路，然而，從實際的角度來看，使用測度和σ-代數并不十分方便，幸運的是，這不是處理概率的唯一方法，
為了簡單起見，假設我們的基集是實數集，具體來說，我們有概率空間(Ω，∑，P)，其中
P是這個空間上的任何概率測度，我們以前已經看到，事件的概率(a，b)決定了事件空間中其他事件的概率，然而，我們可以進一步壓縮這些資訊，實際上，函式
包含所有我們必須知道的關于概率度量的資訊，想想看：我們有
對于所有a和b，這稱為P的分布函式，對于所有概率測度，分布函式滿足以下性質：
(第四個稱為左連續性，不要強調如果你不熟悉連續性的定義，現在就不需要了，)
同樣，如果這太抽象，讓我們考慮一個例子，對于前面的亂數生成示例，我們有
這稱為[0，1]上的均勻分布，
總而言之，如果你給我一個概率測度，我會給你一個描述概率測度的分布函式，
然而，這并不是關于分布函式的最佳選擇，從數學的角度來看，如果你給一個函式滿足上述1–4的性質，我也可以用它構造一個概率測度，此外，如果兩個分布函式處處相等，則其相應的概率測度也相同，
因此，從數學的角度來看，分布函式和概率測度在某些情況下是相同的，這對我們非常有用，
密度函式
如我們所見，分布函式從概率測度中獲取所有資訊，并對其進行壓縮，這是一個很好的工具，但有時不方便，例如，當我們只有分布函式時，計算期望值是困難的，(如果你不知道期望值，請不要擔心，我們現在不會使用它，)
在許多實際應用中，我們用密度函式來描述概率測度，函式
是概率測度P的密度函式，如果
適用于σ-代數∑中的所有E，也就是說，啟發式地，給定集合的概率由f(x)曲線下的面積決定，這個定義可能看起來很簡單，但是這里隱藏了很多細節，我不想詳細討論，
你可能熟悉微積分中著名的牛頓-萊布尼茲定律，這里，也就是
這基本上意味著如果分布函式是可微的，它的導數就是密度函式，
有一定的概率分布，其中只有密度函式是已知的封閉形式，(具有閉合形式意味著它可以用有限個標準運算和初等函式來表示)最著名的分布之一是這樣的：高斯分布，它的定義是
其中μ和σ是引數，
密度函式
分布函式
不管看起來多么令人驚訝，我們不能用封閉的形式來表示高斯分布函式，并不是數學家們還沒有搞清楚，而是證明了這是不可能的，(相信我，證明在數學上做不到的事情有時是極其困難的，)
結尾
到目前為止，我們所看到的只是冰山一角，(想想看，這可以在每一次關于數學的討論結束時說)這里，我們只以數學(半)精確的方式定義了什么是概率，
真正有趣的東西，比如機器學習，仍然擺在我們面前，
原文鏈接：https://towardsdatascience.com/the-mathematical-foundations-of-probability-beb8d8426651
歡迎關注磐創AI博客站：
http://panchuang.net/
sklearn機器學習中文官方檔案：
http://sklearn123.com/
歡迎關注磐創博客資源匯總站：
http://docs.panchuang.net/
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/10829.html
標籤：其他
上一篇：【小筆段LED驅動電路】