假設當前有兩個nn維向量xx和yy (除非特別說明，本文默認依此寫法表示向量)，可以通過兩個向量之間的距離或者相似度來判定這兩個向量的相近程度，顯然兩個向量之間距離越小，相似度越高；兩個向量之間距離越大，相似度越低，
1. 常見的距離計算方式
1.1 閔可夫斯基距離（Minkowski Distance）
\[Minkowski\;Distance = {(\sum\limits_{i = 1}^n {|{x_i} - {y_i}{|^p}} )^{\frac{1}{p}}}\] Minkowski Distane 是對多個距離度量公式概括性的表述，當p=1p=1時，Minkowski Distane 便是曼哈頓距離；當p=2p=2時，Minkowski Distane 便是歐式距離；Minkowski Distane 取極限的形式便是切比雪夫距離，1.2 曼哈頓距離（Manhattan Distance）
\[Manhattan\;Distance = (\sum\limits_{i = 1}^n | {x_i} - {y_i}|)\]1.3 歐式距離/歐幾里得距離（Euclidean distance）
\[Euclidean\;Distance = \sqrt {\sum\limits_{i = 1}^n {{{({x_i} - {y_i})}^2}} } \]1.4 切比雪夫距離（Chebyshev Distance）
\[\mathop {{\rm{lim}}}\limits_{p \to \infty } {(\sum\limits_{i = 1}^n {|{x_i} - {y_i}{|^p}} )^{\frac{1}{p}}} = {\rm{max}}\;(|{x_i} - {y_i}|)\]1.5 海明距離（Hamming Distance）
在資訊論中，兩個等長字串之間的海明距離是兩個字串對應位置的不同字符的個數，假設有兩個字串分別是：x=[x1,x2,...,xn]x=[x1,x2,...,xn]和y=[y1,y2,...,yn]y=[y1,y2,...,yn]，則兩者的距離為：
\[Hamming\;Distance = \sum\limits_{i = 1}^n {{\rm{II}}} ({x_i} = {y_i})\]其中IIII表示指示函式，兩者相同為1，否則為0，
1.6 KL散度
給定隨機變數XX和兩個概率分布PP和QQ，KL散度可以用來衡量兩個分布之間的差異性，其公式如下：
\[KL(P||Q) = \sum x \in Xp(x)logP(x)Q(x)\]2. 常見的相似度函式
2.1 余弦相似度（Cosine Similarity）
\[Cosine\;Similarity = \frac{{x \cdot y}}{{|x| \cdot |y|}} = \frac{{\sum\limits_{i = 1}^n {{x_i}} {y_i}}}{{\sqrt {\sum\limits_{i = 1}^n {x_i^2} } \sqrt {\sum\limits_{i = 1}^n {y_i^2} } }}\]2.2 皮爾遜相關系數 （Pearson Correlation Coefficient）
給定兩個隨機變數XX和YY，皮爾遜相關系數可以用來衡量兩者的相關程度，公式如下:
\[\begin{array}{*{20}{l}}{{\rho _{x,y}}}&{ = \frac{{cov(X,Y)}}{{{\sigma _X}{\sigma _Y}}} = \frac{{E[(X - {\mu _X})(Y - {\mu _Y})]}}{{{\sigma _X}{\sigma _Y}}}}\\
{}&{ = \frac{{\sum\limits_{i = 1}^n {({X_i} - \bar X)} ({Y_i} - \bar Y)}}{{\sqrt {\sum\limits_{i = 1}^n {{{({X_i} - \bar X)}^2}} } \sqrt {\sum\limits_{i = 1}^n {{{({Y_i} - \bar Y)}^2}} } }}}
\end{array}\]
其中μXμX和μYμY分別表示向量XX和YY的均值，σXσX和σYσY分別表示向量XX和YY的標準差，
2.3 Jaccard 相似系數（Jaccard Coefficient）
假設有兩個集合XX和YY(注意這里的兩者不是向量)，則其計算公式為：
\[Jaccard(X,Y) = \frac{{X \cup Y}}{{X \cap Y}}\]轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/502712.html
標籤：其他
上一篇：SMO論文中文翻譯