【聯邦學習】讀書筆記（二）隱私保護技術-有解無憂

本文的隱私保護技術，包括三種方法，

安全多方計算
同態加密
差分隱私

1.安全多方計算

安全多方計算最初是針對一個安全兩方計算問題，即所謂的“百萬富翁問題”被提出的，并于1982年有姚期智提出和推廣，

安全多方計算允許我們計算私有輸入值的函式，從而使每一方只能得到其相應的函式輸出值，而不能得到其他方的輸入值與輸出值，

安全多方計算能夠通過三種不同的框架來實作：

不經意傳輸（Oblivious Transfer，OT）
秘密共享（Secret Sharing，SS）
閾值同態加密（Threshold Homomorphic Encryption， THE）

（1）不經意傳輸

在不經意傳輸中，發送方擁有一個“訊息-索引”對 $\left ( M_{1} \right,1), ... ,\left ( M_{N} \right,N)$ ，在每次傳輸時，接收方選擇一個滿足 $1\leq i\leq N$ 的索引 $i$ ，并接收 $M_{i}$ ，接收方不能得知光宇資料庫的任何其他資訊，發送方也不能了解光宇接收方 $i$ 選擇的任何資訊，

（2）秘密共享

秘密共享是通過將秘密值分割為隨機多份，并將這些份分發給不同方隱藏秘密值的一種概念，因此，每一方只能擁有一個通過共享得到的值，即秘密值的一部分，根據具體的使用場合，需要所有或一定數量的共享數值來重新構造原始的秘密值，

秘密共享主要包括算術秘密共享、Shamir秘密共享和二進制秘密共享等方式，

（3）安全多方計算在PPML中的應用

大多數基于安全多方計算的PPML方法利用兩階段架構，包括離線階段和在線階段，大多數密碼操作都在離線階段執行，在離線階段生成乘法三元組，之后，于在線階段使用在線階段生成的乘法三元組對機器學習模型進行訓練，

2.同態加密

同態加密逐漸被認為是在PPML中實作安全多方計算的一種可行行為，是一種不需要對密文進行解密的密文計算解決方案，

同態加密方法 $H$ 是一種通過對相關密文進行有效操作（不需獲知解密密鑰），從而允許在加密內容上進行特定代數運算的加密方法，一個同態加密方法 $H$ 由一個四元組組成：

$H = \left \{ KeyGen, Enc, Dec, Eval \right \}$ ，

式中，KeyGen表示密鑰生成函式，對于非對稱同態加密，一個密鑰生成元g被輸入KeyGen，并輸出一個密鑰對 $\left \{ pk,sk \right \} = KeyGen(g)$ ，其中pk表示用于明文加密的公鑰，sk表示用于揭秘的密鑰，對于對稱同態加密，只生成一個密鑰 $sk = KeyGen(g)$ ，

Enc表示加密函式，對于非對稱同態加密，一個加密函式以公鑰pk和明文m作為輸入，并產生一個密文 $c = Enc_{pk}\left ( m \right )$ 作為輸出，對于對稱同態加密，加密程序會使用公共密鑰sk和明文m作為輸入，并生成密文 $c = Enc_{pk}\left ( m \right )$ ，

Dec表示解密函式，對于非對稱同態加密和對稱同態加密，隱私密鑰sk和密文c被用來作為生成相關明文 $m =Dec_{sk}\left ( c \right )$ 的輸入，

Eval表示評估函式，評估函式Eval將密文c和公共密鑰pk（對于非對稱同態加密）作為輸入，并輸出與明文對應的密文，

同態加密的分類，同態加密主要分為三類：

部分同態加密（PHE），對于部分同態加密方法， $\left (M, \odot _{M} \right )$ 和 $\left (C, \odot _{C} \right )$ 都是群，運算子 $\odot _{C}$ 能夠無限次地用于密文，PHE是一種群同態技術，特別地，若 $\odot _{M}$ 是加法運算發，則該方案可被稱為加法同態，
些許同態加密（SHE），些許同態加密方法指一同態加密方法中地一些運算操作（如加法和乘法）只能執行有限次，SHE方法為了安全性，使用噪聲資料，每一次在密文上地操作會增加密文地噪聲量，而乘法操作是增加噪聲量地主要技術手段，當噪聲量超過一個上限值后，解密操作就不能得出正確結果了，這就是為什么大多數地SHE方法會要求限制計算操作的次數，
全同態加密（FHE），全同態加密方法允許對密文進行無限次的加法運算和乘法運算操作，沒有FHE能夠被證明在任何功能下都是安全的，并且FHE具有針對不可區分的選擇密文攻擊的安全性，

3. 差分隱私

差分隱私最開始被開發出來用來促進在敏感資料上的安全分析，差分隱私的中心思想是，當敵手從資料庫中查詢個體資訊時將其混淆，使得敵手無法從查詢結果中辨別個體級別的敏感性，差分隱私提供了一種資訊理論安全保障，即函式的輸出結果對資料集中的任何特定記錄都不敏感，因此，差分隱私都被用于抵抗成員推理攻擊，

定義： $\left ( \epsilon ,\delta \right )-$ 差分隱私，對于只有一個記錄不同的資料集 $D$ 和 $D^{'}$ ，一個隨機化機制 $M$ 可保護 $\left ( \epsilon ,\delta \right )-$ 差分隱私，并且對于所有的 $S\subset Range\left ( M \right )$ 有：

$Pr\left [ M\left (d \right )\in S \right ] \leq Pr\left [ M\left (D^{'} \right )\in S \right ]\times e^{\epsilon }+\delta$

式中， $\epsilon$ 表示隱私預算； $\delta$ 表示失敗概率，

$ln\frac{Pr\left [ M\left ( D \right )\in S \right ]}{Pr\left [ M\left ( D^{'} \right )\in S \right ]}$ 的值被稱為隱私損失，其中ln表示自然對數運算，當 $\delta =0$ 時，便得到了性能更好的 $\epsilon -$ 差分隱私，

差分隱私方法分類，主要有兩種方法通過給資料加上噪聲實作差分隱私，一種是根據函式的敏感性增加噪聲；一種是根據離散值的指數分布選擇噪聲，

實值函式的敏感性可以表示為由于添加或洗掉單個樣本，函式值可能發生變化的最大程度，

差分隱私演算法可根據噪聲擾動使用的方式和位置來進行分類：

輸入擾動：噪聲被加入訓練模型，
目標擾動：噪聲被加入學習演算法的目標函式，
演算法擾動：噪聲被加入中間值，例如迭代演算法中的梯度，
輸出擾動：噪聲被加入訓練后的輸出引數，

轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/226639.html

標籤：其他

上一篇：10個面試官，9個不敢問Synchronized

下一篇：萬字長文圖文閱讀ConcurrentHashMap原始碼，吊打面試官系列

【聯邦學習】讀書筆記（二） 隱私保護技術

1.安全多方計算

2.同態加密

3. 差分隱私

【聯邦學習】讀書筆記（二）隱私保護技術