本章內容

4.1 經典推理和非經典推理

4.2 不確定性推理

4.2.1 不確定性的表示和度量

4.2.2 不確定性的演算法

4.3 概率推理

4.3.1 概率的基本性質和計算公式

4.4 主觀貝葉斯方法

4.4.1 知識不確定性的表示

4.4.2 證據不確定性的表示

4.4.3 主觀貝葉斯方法的推理程序

4.5 可信度方法

4.5.1 基于可信度的不確定性表示

4.5.2 可信度方法的推理演算法

重要公式總結：

本章內容

熟悉經典推理和非經典推理的區別

掌握不確定推理的基本概念

掌握概率推理方法

掌握主觀貝葉斯推理方法

掌握可信度推理方法

了解證據理論的基本知識

4.1 經典推理和非經典推理

非經典推理和經典推理的區別表現在：

推理方法，經典采用演繹邏輯推理，非經典采用歸納邏輯推理，

轄域取值，經典邏輯都是二值邏輯，非經典是多值邏輯，

運演算法則，經典邏輯中的許多法則在非經典邏輯中不成立，

邏輯算符，非經典邏輯具有更多的邏輯算符，

是否單調，經典邏輯單調，而非經典邏輯是非單調邏輯，

4.2 不確定性推理

不確定性推理是一種建立在非經典邏輯基礎上的基于不確定性知識的推理，從不確定性的初始證據出發，通過運用不確定性知識，推出具有一定程度的不確定性的和合理的或近乎合理的結論，

不確定性推理中必須解決推理方向、推理方法、控制策略等基本問題，同時還需要解決不確定性的表示與度量、不確定性匹配、不確定性的傳遞演算法以及不確定性的合成等問題，

4.2.1 不確定性的表示和度量

1、不確定性及其型別：

①隨機不確定性，eg: 這場比賽A隊可能獲勝

②模糊不確定性，eg：小明是個高個子

③不完全性，eg：刑偵程序的某些階段往往要針對不完全的證據進行推理

④不確定性，eg：人們對太空的認識

2、三種不確定性：

①關于知識的不確定性

②關于證據的不確定性

③關于結論的不確定性

3、知識的表示與推理密切相關，不同的推理方法要求有相應的知識表示模式與之對應

4、知識的度量

靜態強度：專家系統中通常用一個數值表示相應知識的不確定性程度

動態強度：證據的不確定性也通常用一個數值代表相應證據的不確定性程度

4.2.2 不確定性的演算法

1、不確定性的更新演算法：

（1）已知規則前提即證據E的不確定性C(E)和規則的強度f(H,E),其中H表示假設，求H的不確定性C(H)

（2）并行規則演算法

（3）證據合取的不確定性演算法

（4）證據析取的不確定性演算法

證據析取、證據合取的不確定性演算法統稱為組合證據的不確定性演算法

2、不確定性的計算與傳播：

（1）組合證據的不確定性計算（最大最小方法、概率方法、有界方法）

（2）證據和知識的不確定性的傳遞

（3）不同證據支持同一結論時其不確定性的合成

不確定性推理的一般模式也可以簡單地表示為：

不確定性推理=符號推演+不確定性計算

3、不確定性方法的分類：

4.3 概率推理

4.3.1 概率的基本性質和計算公式

1、統計概率的性質：

（6）對任一事件A，有：

P( $\overline{A}$ ) =1-P(A)

$\overline{A}$ 表示事件A的逆，即事件A和事件A的逆有且僅有一個發生

2、概率的部分計算公式

（1）條件概率與乘法公式：

P(A|B)=P(A∩B)/P(B)

（2）獨立性公式：

若事件滿足 P(A|B)=P(A)，則稱事件A關于事件B是獨立的，A與B相互獨立的充要條件：

P(A∩B)= P(A)P(B)

（3）全概率公式：

（4）貝葉斯公式：

4.4 主觀貝葉斯方法

核心思想：

根據 先驗概率 （H出現的概率 P(Hi) ）以及證據E的 條件概率 (Hi出現的情況下E出現的概率 P(E | Hi)) 得到后驗概率（出現E的情況下出現Hi的概率）

例如：

小明去上學，坐公交車遲到的概率是30%，步行遲到的概率是20%，假設選擇每種公交車的可能性相同，問小明遲到了，坐公交車的可能性是多少？

4.4.1 知識不確定性的表示

1、主觀貝葉斯方法用產生式規則表示知識：

if E then (LS, LN) H

(LS,LN) 表示該知識的靜態強度

LS為上式成立的充分性因子，衡量證據 E 對結論 H 的支持程度

LN為上式成立的必要性因子，衡量 ~E 對 H 的支持程度

LS 和 LN 的取值范圍是 [0,+∞)，由領域專家給出

E 是該條知識的前提條件，它既可以是一個簡單條件，也可以是用and 、or 把多個條件連接起來的復合條件，

H 是結論，P(H) 是 H 的先驗概率，它指出在沒有任何專門證據的情況下，結論為真的概率，其值由領域專家根據以往的實踐及經驗給出

2、推理程序即為根據前提 E 的概率 P(E)，利用規則的 LS 和 LN，把結論 H 的先驗概率 P(H) 更新為后驗概率 P(H|E) 的程序

3、在貝葉斯方法中，引入概率函式O(x)，表示事件x發生的概率與不發生的概率之比，把x發生概率的取值從[0,1]放大到[0,+∞）

4、更新貝葉斯公式：

1）對于LS：

由③式得到 O(H/E)=LS×O(H) （該公式被稱為Bayes公式的幾率似然性形式，LS為充分似然性）

由③ 式及 “非”運算：P( ~H/E) = 1 – P(H/E) 、 P( ~H) = 1 – P(H), 得：

2）對于LN：同理 O(H/ ~E)=LN×O(H)

附 LS和LN的性質

-當證據E越是支持H為真時，LS的值越大

-當證據E對H重要時，則LN值應該越小

4.4.2 證據不確定性的表示

對于初始證據 E ，由用戶根據觀察 S 給出 P(E/S)，它相當于動態強度

用C(E/S)刻畫證據的不確定性，讓用戶在 –5 至 5 之間的 11 個整數中選一個數作為初始證據的可信度C(E/S)

初始可信度 C(E/S) 與概率 P(E/S) 的對應關系如下：

C(E/S)= -5 ，表示在觀察 S 下證據 E 肯定不存在，即 P(E/S)=0；

C(E/S)= 0 ，表示 S 與 E 無關，即 P(E/S) =P(E) ；

C(E/S)= +5 ，表示在觀察 S 下證據 E 肯定存在，即 P(E/S)=1；

C(E/S) = 其它數值時，與 P(E/S) 的對應關系可通過對上述三點進行 分段線性插值 得到，如下圖，

由上圖可得到 C(E/S) 與 P(E/S) 的關系式，即由C(E/S) 計算 P(E/S)： ???????

在證據不確定的情況下，不能再用上面利用LS和LN的公式計算后驗概率，而需使用 R.O.Doda 等人1976年證明的如下公式:

P(H | S) = P(H | E)×P(E | S) + P(┐H | E) × P(┐E | S) ①

分四種情況討論：

1）P(E/S) = 1

當 P(E/S) = 1 時， P(┐E/S) = 0，此時公式 ① 變為：

P(H/S) = P(H/E) =

這是證據肯定存在的情況，

2）P(E/S) = 0

當 P(E/S) = 0 時， P(┐E/S) = 1，此時公式 ① 變為：

P(H/S) = P(H/┐E) =

這是證據肯定不存在的情況

3）P(E/S) = P(E)

當 P(E/S) = P(E) 時，此時公式 ① 變為：

表示H與S無關

4）當 P(E/S) = 其它值時，通過分段線性插值可得到計算P(H/S)的公式，EH公式

對初始證據，用可信度C(E/S) 計算P(H/S)，該公式為CP公式

4.4.3 主觀貝葉斯方法的推理程序

若采用初始證據進行推理，則通過用戶得到C(E|S)，從而根據CP公式可求得 P(H|S)

若采用推理程序中得到的中間結論作為證據進行推理，則通過 EH 公式可求得 P(H|S)，

例：設有如下規則

r1: IF E1 THEN (65, 0.01) H1

r2: IF E2 THEN (300, 0.001) H1

r3: IF H1 THEN (200, 0.002) H2

已知： P(E1)=0.1 ，P(E2)=0.03， P(H1)=0. 1 ，P(H2)=0.05，用戶提供證據：C(E1/S1)=2，C(E2/S2)=1，計算P(H2/S1，S2)

分析：自下而上計算：

根據LS值，將H的先驗概率轉換為后驗概率，計算P(H1/E1)、P(H1/E2)

使用CP公式計算P(H1/S1)、P(H1/S2) ，

計算O(H1/S1)、O(H1/S2)

對H1合成，計算 O(H1/S1,S2)、P(H1/S1,S2) ，

根據LS值，將H的先驗概率轉換為后驗概率，計算P(H2/H1)

使用EH公式計算P(H2/S1,S2)

（1）計算 P(H1/E1) 、P(H1/S1) 和 O(H1/S1)

對于初始證據，使用CP公式：

???????

（2）同理，計算P(H1/E2)、 P(H1/S2)和 O(H1/S2)

??????? ??????? ???????

（3）計算O(H1/S1,S2)和 P(H1/S1,S2)

（4）計算 P(H2/H1)和 P(H2/S1,S2)

使用EH公式，∵ P(H1/S1,S2)> P(H1) ∴ 使用EH公式的后半部，

4.5 可信度方法

4.5.1 基于可信度的不確定性表示

推理規則的一般形式：

If E then H (CF(H , E))

其中 CF(H , E) 是該規則的可信度，稱為可信度因子或規則強度，

CF(H , E) >0表示該證據增加了結論為真的程度，且CF(H , E)的值越大則結論 H 越真；若CF(H , E) =1，則表示該證據使結論為真，

CF(H , E) <0 表示該證據增加了結論為假的程度，且CF(H , E)的值越小則結論 H 越假；若CF(H , E) =-1則表示該證據使結論為假，

CF(H , E) =0 表示證據 E 和結論 H 沒有關系，

CF(H,E)的計算公式：

???????

4.5.2 可信度方法的推理演算法

1、組合證據（前提證據事實總CF值計算，最大最小法）

（1）合取證據：多個證據的合取(與)，取最小

（2）析取證據：多個證據的析取(或)，取最大

2、推理結論的CF值計算

結論 H 的可信度由下式計算：

CF(H) = CF(H,E) × max { 0, CF(E) }

3、重復結論CF值計算（多個獨立證據推出同一假設的合成演算法）

if E1 then H (CF(H, E1))

if E2 then H (CF(H, E2))

（1）計算CF1(H) CF2(H)；

（2）計算CF (H)：

例：設有如下規則：

r1: IF E1 THEN H ( 0.8)

r2: IF E2 THEN H (0.9)

r3: IF E3 AND E4 THEN E1 (0.7)

r4: IF E5 OR E6 THEN E1 (－0.3)

并已知初始證據的可信度為：CF（E2）=0.8，CF（E3）=0.9，CF（E4）=0.7，CF（E5）=0.1，CF（E6）=0.5，用不確定性理論計算CF（H），

解：

由r3可得： CF1（E1）=0.7×min{0.9,0.7}=0.49

由r4可得： CF2（E1）=－0.3×max{0.1,0.5}=－0.15

從而 CF1,2（E1）=（0.49－0.15）/(1－min(|0.49|,|－0.15|))=0.34/0.85=0.4

由r1可得： CF1（H）=0.4×0.8=0.32

由r2可得： CF2（H）=0.8×0.9=0.72

從而 CF1,2（H）=0.32+0.72-0.32×0.72=0.8096

這就是最終求得的H的可信度，