概率論與數理統計(1):隨機事件與概率

此系列博客是出于想要鍛煉自己形成知識體系的能力的目的，在備考程序中整理，
參考教材為《概率論與數理統計》.機械工業出版社.孫振綺 主編、《概率論與數理統計》.高等教育出版社.盛驟 編

一.隨機事件

1.隨機試驗

隨機試驗特點：

①可重復性：可在相同條件下重復進行

②可觀察性：每次試驗可能結果不止一個，并能事先明確所有可能結果

③隨機性：進行一次試驗之前不能確定哪一個結果會出現

例如：拋一枚硬幣，觀察出現正面的次數；

2.定義1（樣本空間，樣本點）

? 隨機試驗的每一個可能的結果，稱為一個樣本點e或ω，所有樣本點組成的集合稱為樣本空間S或Ω
? **注：**樣本點也稱為基本事件
? 例：寫出樣本空間
? ·擲一枚硬幣，觀察正、反面出現的情況：
? e₁=“正面”,e₂=“反面” ，S={e₁,e₂}
? ·擲一枚骰子，觀察點數
? S={1,2,3,4,5,6}
? ·觀察某城市某月內交通事故發生次數
? S={0,1,2,…}
? ·從一批燈泡中隨機地抽取一只燈泡，測驗其壽命t
? S={t|t≥0}
? ·對目標進行射擊，直到擊中為止，1表示擊中，0表示未擊中，記錄射擊結果
? S={1,01,001,0001,…}

3.定義2（隨機事件）

? 樣本空間S的任意一個子集A，稱為一個隨機事件，簡稱“事件”
? 注：事件A發生即在一次試驗中，事件A中的某個樣本點出現

二.事件的關系與運算

? 事件是集合，故事件間的關系與事件的運算按照集合論中集合之間的關系和集合運算來處理
? 而在概率論中，這些運算有其在概率論中的提法，可以根據“事件發生”的含義，給出它們在概率論中的含義

1.事件的包含：A?B

? 事件A發生時，事件B一定發生

2.事件的相等：A=B

? 若A?B，且B?A，則稱事件A與B相等

3.事件A與B的并（和）

? A∪B（或A+B) = “事件A,B至少有一個發生”

? n個事件的并： ∪ i = 1 n A i \mathop\cup\limits^n_{i=1}A_i i=1∪n?Ai?=“事件A₁,A₂,…,A_n至少有一個發生”
? 可數個事件的并： ∪ i = 1 ∞ A i \mathop\cup\limits^{\infty}_{i=1}A_i i=1∪∞?Ai?=“事件A₁,A₂,…至少有一個發生”

4.事件A與B的交（積）

? A∩B（或AB）=“事件A,B同時發生”

? n個事件的交： ∩ i = 1 n A i \mathop\cap\limits^n_{i=1}A_i i=1∩n?Ai?=”事件A₁,A₂,…,A_n同時發生“
? 可數個事件的交： ∩ i = 1 ∞ A i \mathop\cap\limits^{\infty}_{i=1}A_i i=1∩∞?Ai?=“事件A₁,A₂,…同時發生”

5.互斥事件 AB=?：A,B不能同時發生

6.對立事件： A ￣ = S ? A \overline{A}=S-A A=S?A=“事件A不發生”

性質：事件A與B對立 ?? ? ?? A B = ? 且 A ∪ B = S \iff AB=? 且A∪B=S ?AB=?且A∪B=S

? 對立事件 ? \Rightarrow ?互斥事件
? 互斥事件 ?? \not\Rightarrow ??對立事件

7.事件A與B的差

A-B=“事件A發生，B不發生”= A B ￣ A\overline{B} AB

8.事件的運算律

①交換律：

A ∩ B = B ∩ A , A ∪ B = B ∪ A A\cap B=B\cap A ,A\cup B=B\cup A A∩B=B∩A,A∪B=B∪A

②結合律：

( A B ) C = C ( A B ) , ( A ∪ B ) ∪ C = A ∪ ( B ∪ C ) (AB)C=C(AB),(A∪B)∪C=A∪(B∪C) (AB)C=C(AB),(A∪B)∪C=A∪(B∪C)

③分配律：

A ( B ∪ C ) = A B ∪ A C , A ∪ ( B C ) = ( A ∪ B ) ∩ ( A ∪ C ) A(B\cup C)=AB\cup AC, A\cup(BC)=(A\cup B)\cap(A\cup C) A(B∪C)=AB∪AC,A∪(BC)=(A∪B)∩(A∪C)

④摩根律：

A ∩ B ￣ = A ￣ ∪ B ￣ , A ∪ B ￣ = A ￣ ∩ B ￣ \overline{A\cap B}=\overline{A}\cup\overline{B},\overline{A\cup B}=\overline{A}\cap\overline{B} A∩B=A∪B,A∪B=A∩B

∪ i = 1 n A i ￣ = ∩ i = 1 n A i ￣ , ∩ i = 1 n A i ￣ = ∪ i = 1 n A i ￣ \overline{\mathop{\cup}_{i=1}^{n}A_i}=\mathop{\cap}_{i=1}^n \overline{A_i} , \overline{\mathop{\cap}_{i=1}^nA_i}=\mathop{\cup}^n_{i=1}\overline{A_i} ∪i=1n?Ai??=∩i=1n?Ai??,∩i=1n?Ai??=∪i=1n?Ai??

總結一下摩根律，即為：交的補=補的并，并的補=補的交

? （長橫變短橫，開口調個頭）

三.古典概率

1.定義1（概率）

? 事件A發生可能性大小的數值，稱為A的概率，記為P(A)

2.定義2（古典概率）

? 樣本空間滿足有限性（只有有限個樣本點）和等可能性（每個樣本點出現的可能性相等）的隨機試驗為古典概型試驗，事件A的概率：
$$

$$

P ( A ) = A 包 含 的 樣 本 點 數 S 包 含 的 樣 本 點 總 數 P(A)=\frac{A包含的樣本點數}{S包含的樣本點總數} P(A)=S包含的樣本點總數A包含的樣本點數?

3.定理1（古典概率性質）

? （1）P(?)=0 ,P(S)=1
? （2）0≤P(A)≤1
? （3）若A，B互斥，即AB=?則P(A+B)=P(A)+P(B)

推廣：若A₁,A₂,…,A_n兩兩互斥，則P(A₁+A₂+…+A_n)=P(A₁)+P(A₂)+…+P(A_n)

4.加法公式

P ( A ∪ B ) = P ( A ) + P ( B ) ? P ( A B ) P(A∪B)=P(A)+P(B)?P(AB) P(A∪B)=P(A)+P(B)?P(AB)

P ( A 1 ∪ A 2 ∪ A 3 ) = P ( A 1 ) + P ( A 2 ) + P ( A 3 ) ? P ( A 1 A 2 ) ? P ( A 1 A 3 ) ? P ( A 2 A 3 ) + P ( A 1 A 2 A 3 ) P(A_1∪A_2∪A_3 )=P(A_1)+P(A_2)+P(A_3) ?P(A_1A_2)-P(A_1A_3 )-P(A_2A_3 ) +P(A_1A_2A_3) P(A1?∪A2?∪A3?)=P(A1?)+P(A2?)+P(A3?)?P(A1?A2?)?P(A1?A3?)?P(A2?A3?)+P(A1?A2?A3?)

5.減法公式

P ( A ? B ) = P ( A B ￣ ) = P ( A ) ? P ( A B ) P(A?B)=P(A\overline{B})=P(A)?P(AB) P(A?B)=P(AB)=P(A)?P(AB)

? 若B?A，則P(B)≤P(A)，且P(A-B)=P(A)-P(B)

6.對立事件

P ( A ￣ ) = 1 ? P ( A ) P(\overline{A})=1-P(A) P(A)=1?P(A)

7.常用基本結論

①排列組合

排 列 ： A n k = n ! ( n ? k ) ! 排列：A_n^k=\frac{n!}{(n-k)!} 排列：Ank?=(n?k)!n!?

組 合 ： C n k = n ! ( n ? k ) ! k ! 組合：C_n^k=\frac{n!}{(n-k)!k!} 組合：Cnk?=(n?k)!k!n!?

②加法原理

③乘法原理

④允許重復的排列

? 從n個不同元素中有放回的抽取k個，按照一定順序排成排列，有n·n…n=n^k種排列方法

四.幾何概率

1.定義

? 設區域G是平面區域?的一部分，若向?內投擲一個質點，質點落入G內的概率為
P ( G ) = S G S ? P(G)=\frac{S_G}{S_?} P(G)=S??SG??

2.計算方法

? 確定區域的測度，計算長度、面積或體積

五.統計概率

1.定義1（頻率）

? 在n次試驗中，若事件A發生了n_A次,則稱
f n ( A ) = n A n f_n(A)=\frac{n_A}{n} fn?(A)=nnA??
為事件A發生的頻率

2.定義2(統計概率)

? 在相同條件下重復進行的試驗中，若隨著試驗次數增加，事件A發生的頻率穩定在常數p附近，則稱p為A的概率

3.定義3（概率的公理定義）

? 設隨機試驗的樣本空間為S，對于每個事件A，定義P(A)，滿足：

①非負性：P(A)≥0
②規范性：P(S)=1
③可加性：若事件A₁,A₂,…A_n兩兩互斥，則
P ( A 1 + A 2 + . . . + A n ) = P ( A 1 ) + P ( A 2 ) + . . . + P ( A n ) P(A_1+A_2+...+A_n)=P(A_1)+P(A_2)+...+P(A_n) P(A1?+A2?+...+An?)=P(A1?)+P(A2?)+...+P(An?)
則稱P(A)為事件A的概率

五.條件概率 乘法定理

1.條件概率

①定義

? P(B|A)：已知事件A發生的條件下，事件B發生的概率：
P ( B ∣ A ) = P ( A B ) P ( A ) P(B|A)=\frac{P(AB)}{P(A)} P(B∣A)=P(A)P(AB)?

②性質

? 設P(A)>0

（1）P(B|A)>0
(2 ) P(S|A)=1
(3 ) 若事件若事件A₁,A₂,…A_n互斥,則：
P ( A 1 + A 2 + . . . + A n ∣ A ) = P ( A 1 ∣ A ) + P ( A 2 ∣ A ) + ? ? ? + P ( A n ∣ A ) P(A_1+A_2+...+A_n|A)=P(A_1|A)+P(A_2|A)+···+P(A_n|A) P(A1?+A2?+...+An?∣A)=P(A1?∣A)+P(A2?∣A)+???+P(An?∣A)

2.乘法定理

P ( B ∣ A ) = P ( A B ) P ( A ) ? P ( A B ) = P ( A ) P ( B ∣ A ) , P ( A ) > 0 P(B|A)=\frac{P(AB)}{P(A)} \Rightarrow P(AB)=P(A)P(B|A),P(A)>0 P(B∣A)=P(A)P(AB)??P(AB)=P(A)P(B∣A),P(A)>0

P ( A ∣ B ) = P ( A B ) P ( B ) ? P ( A B ) = P ( B ) P ( A ∣ B ) , P ( B ) > 0 P(A|B)=\frac{P(AB)}{P(B)}\Rightarrow P(AB)=P(B)P(A|B),P(B)>0 P(A∣B)=P(B)P(AB)??P(AB)=P(B)P(A∣B),P(B)>0

P ( A 1 A 2 A 3 ) = P ( A 1 ) P ( A 2 ∣ A 1 ) P ( A 3 ∣ A 1 A 2 ) P(A_1A_2A_3)=P(A_1)P(A2|A1)P(A_3|A_1A_2) P(A1?A2?A3?)=P(A1?)P(A2∣A1)P(A3?∣A1?A2?)

P ( A 1 A 2 . . . A n ) = P ( A 1 ) P ( A 2 ∣ A 1 ) . . . P ( A n ∣ A 1 A 2 . . . A n ? 1 ) P(A_1A_2...A_n)=P(A_1)P(A_2|A_1)...P(A_n|A_1A_2...A_{n-1}) P(A1?A2?...An?)=P(A1?)P(A2?∣A1?)...P(An?∣A1?A2?...An?1?)

六.全概率公式、貝葉斯公式

1.樣本空間的劃分

? 設S為某試驗的樣本空間，A₁,A₂,…A_n為一組事件，滿足：
（1）A₁,A₂,…A_n兩兩互斥
（2）A₁∪A₂∪…∪A_n=S
? 則稱A₁,A₂,…A_n為樣本空間S的一個劃分

2.全概率公式：

P ( B ) = P ( A 1 ) P ( B ∣ A 1 ) + P ( A 2 ) P ( B ∣ A 2 ) + . . . P ( A n ) P ( B ∣ A n ) P(B)=P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+...P(A_n)P(B|A_n) P(B)=P(A1?)P(B∣A1?)+P(A2?)P(B∣A2?)+...P(An?)P(B∣An?)

3.貝葉斯公式：

P ( A i ∣ B ) = P ( A i B ) P ( B ) = P ( A i ) P ( B ∣ A i ) P ( A 1 ) P ( B ∣ A 1 ) + P ( A 2 ) P ( B ∣ A 2 ) + . . . P ( A n ) P ( B ∣ A n ) P(A_i|B)=\frac{P(A_iB)}{P(B)}=\frac{P(A_i)P(B|A_i)}{P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+...P(A_n)P(B|A_n)} P(Ai?∣B)=P(B)P(Ai?B)?=P(A1?)P(B∣A1?)+P(A2?)P(B∣A2?)+...P(An?)P(B∣An?)P(Ai?)P(B∣Ai?)?

七.獨立事件

1.事件獨立性

①定義1（兩個事件的獨立性）

若兩事件A、B滿足：
P ( A B ) = P ( A ) P ( B ) P(AB)=P(A)P(B) P(AB)=P(A)P(B)
則稱A與B相互獨立，簡稱“獨立”

②定義2（三個事件的獨立性）

設A、B、C是三個事件，若

（1）兩兩獨立：
P ( A B ) = P ( A ) P ( B ) P ( A C ) = P ( A ) P ( C ) P ( B C ) = P ( B ) P ( C ) \\P(AB)=P(A)P(B)\\ P(AC)=P(A)P(C)\\P(BC)=P(B)P(C) P(AB)=P(A)P(B)P(AC)=P(A)P(C)P(BC)=P(B)P(C)
（2）
P ( A B C ) = P ( A ) P ( B ) P ( C ) P(ABC)=P(A)P(B)P(C) P(ABC)=P(A)P(B)P(C)
則稱A,B,C相互獨立

2.n重貝努力試驗

①定義

在 相 同 條 件 下 可 以 重 復 試 驗 ， 且 任 一 事 件 出 現 的 概 率 與 其 他 各 次 的 試 驗 結 果 無 關 ， 這 類 試 驗 稱 為 n 次 重 復 獨 立 試 驗 若 一 次 試 驗 只 有 A 與 A ￣ 兩 個 結 果 ， 稱 為 貝 努 力 試 驗 ， 它 的 n 次 重 復 獨 立 試 驗 ， 稱 為 n 重 貝 努 力 試 驗 在相同條件下可以重復試驗，且任一事件出現的概率與其他各次的試驗結果無關，這類試驗稱為n次重復獨立試驗\\若一次試驗只有A與\overline{A}兩個結果，稱為貝努力試驗，它的n次重復獨立試驗，稱為n重貝努力試驗 在相同條件下可以重復試驗，且任一事件出現的概率與其他各次的試驗結果無關，這類試驗稱為n次重復獨立試驗若一次試驗只有A與A兩個結果，稱為貝努力試驗，它的n次重復獨立試驗，稱為n重貝努力試驗

②定理1（貝努力公式）

? 在n重貝努力試驗中，事件A發生的概率為p，則事件A恰好發生k次的概率為
P n ( k ) = C n k p k q n ? k , q = 1 ? p , k = 0 , 1 , . . . , n P_n(k)=C_n^kp^kq^{n-k},q=1-p,k=0,1,...,n Pn?(k)=Cnk?pkqn?k,q=1?p,k=0,1,...,n

③定理2（泊松定理）

? 在n重貝努力試驗中，事件A恰好發生k次的概率為
P n ( k ) = C n k p k q n ? k ≈ λ k k ! ? e ? λ , λ = n p , n → ∞ P_n(k)=C_n^kp^kq^{n-k} \approx \frac{\lambda^k}{k!}\cdot e^{-\lambda},\qquad\lambda=np,n\rightarrow\infty Pn?(k)=Cnk?pkqn?k≈k!λk??e?λ,λ=np,n→∞