支持向量機
7.1 對于樣本空間中的一劃分超平面**w*Tx* + b = 0,有*w* = (-1, 3, 2),b = 1,則判斷如下向量是否為支持向量,并求出間隔,
(1) ***x***1 = (4, -2, 2)
(2) ***x***2 = (2, 5, -6.5)
(3) ***x***3 = (4, -2, 4)

7.2 假設輸入空間是R2,核函式是κ(x, z) = (xTz)2,試找出其相關的特征空間H和映射Φ(x):

7.3 設計幾種SVM實作多分類的方案,
答:
SVM是用來解決兩分類問題的,直接用SVM實作多分類是不行的,只能使用下面這些間接的方法:
1. 一對多法(one-versus-rest,OvR):
即對于每一個分類,訓練一個該分類和其他分類的分類器,如對于類k,k是一類,所有其他的是另一類,這樣就需要訓練k個分類器,對未知樣本分類時,哪個分類器的函式值最大,就屬于哪一個類,
2. 一對一法(one-versus-one, OvO):
對于每兩個類之間都訓練一個分類器,如果有n個類,就需要n(n-1)/2個分類器,對未知樣本分類時,一次用這n(n-1)/2個分類器分類,屬于一個類就+1,最后得分最高的是哪個類,就作為最終的分類結果,
3. 層次支持向量機:
層次分類法首先將所有類別分成兩個子類,再將子類進一步劃分成兩個次級子類,如此回圈,直到得到一個單獨的類別為止,
4. 有向無環圖(DVG-SVMs):
參考以下文章:
有向無環圖的多類支持向量機分類演算法_愛學術 (ixueshu.com)
和一對一法類似,也需要訓練n(n-1)/2個分類器,區別就在于這些分類器構成了一個有向無環圖,對未知樣本分類時,減少了用來判斷的分類器的數量,但是仍然需要訓練n(n-1)/2個分類器,
5. 只需求解一個優化問題的多類方法:
此外,我還在網上查到了一種只需求解一個優化問題的方法:
這種方法類似于one-against-all,構造 M 個二類的決策函式,其中第 m 個函式 w_m^T ?(x_t )+b_m 將第 m 類和其余類分開,形成的優化問題如下:

解這個優化問題得到全部M個決策函式,
它的決策函式為:
它的決策函式為:

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/291408.html
標籤:AI
上一篇:基于OpenCV簡易檢測硬幣個數
