支持向量機(jī)可求解二分類問(wèn)題。當(dāng)需要求解多分類問(wèn)題時(shí),支持向量機(jī)可將二分類問(wèn)題的求解方式轉(zhuǎn)化為多分類問(wèn)題的求解方式。
多分類問(wèn)題的求解方式:1類對(duì)K-1類、1類對(duì)另1類。
下文主要介紹1類對(duì)K-1類的具體方式 假設(shè)樣本需要被分為K類,則需要構(gòu)造K個(gè)支持向量機(jī)模型,即:
(1)第1個(gè)支持向量機(jī)模型將類別1分為一類,將2、3、4...K分為一類;
(2)第2個(gè)支持向量機(jī)模型將類別2分為一類,將1、3、4...K分為一類;
(3)第3個(gè)支持向量機(jī)模型將類別3分為一類,將1、2、4...K分為一類; …… (K)第K個(gè)支持向量機(jī)模型將類別K分為一類,將1、2、3...K-1分為一類;
再假設(shè)上述K個(gè)支持向量機(jī)模型,單一類別的標(biāo)簽為+1,其他K-1類構(gòu)成的一類的標(biāo)簽為-1。
對(duì)上述K個(gè)支持向量機(jī)模型求解,可得出K個(gè)α和b的組合,可記為: {αi(k)}i=1~N,b(k),k=1~K 對(duì)某一樣本X的分類,根據(jù)如下判別式: kmax=argmax∑αi(k)yiK(Xi,X)+b(k),k=1~K 其中,argmax函數(shù)值為使argmax右側(cè)函數(shù)取最大值時(shí)自變量的值,即argmax∑αi(k)yiK(Xi,X)+b(k)的值為使∑αi(k)yiK(Xi,X)+b(k)最大時(shí)k的取值,即若x0= argmax(f(x)),則當(dāng)x=x0時(shí),f(x)取得最大值。(根據(jù)百度百科理解)
上述判別式的含義是:將測(cè)試樣本輸入到K個(gè)支持向量模型進(jìn)行計(jì)算,并在k個(gè)支持向量模型中,篩選出某1類與該類對(duì)應(yīng)的K-1類間隔最大情況的支持向量模型(即篩選{αi(k)}i=1~N,b(k)的值)。
將此支持向量模型計(jì)算出∑αiyiK(Xi,X)+b值所對(duì)應(yīng)的標(biāo)簽作為測(cè)試樣本的標(biāo)簽。(含個(gè)人理解)
例如:經(jīng)過(guò)計(jì)算對(duì)比后,若某一測(cè)試樣本的第2個(gè)支持向量機(jī)模型所對(duì)應(yīng)的類別2與包含1、3、4...K類的類間隔最大(其兩類間隔均大于第1、3、4…K個(gè)支持向量機(jī)所對(duì)應(yīng)兩類的間隔),則第2個(gè)支持向量機(jī)模型所對(duì)應(yīng)的{αi(k)}i=1~N,b(k)的值為該測(cè)試樣本的計(jì)算標(biāo)簽值的αi、b的值,最后,通過(guò)∑αiyiK(Xi,X)+b計(jì)算出該樣本的標(biāo)簽。(個(gè)人理解)
1類對(duì)K-1類的策略容易導(dǎo)致訓(xùn)練樣本不平衡的問(wèn)題。
該問(wèn)題出現(xiàn)的原因是:K個(gè)支持向量所分得的兩類均為某1類和包含其他K-1個(gè)類的類,其他K-1個(gè)類的類的樣本數(shù)量一般遠(yuǎn)多于某1類的樣本數(shù)量,當(dāng)兩類樣本數(shù)量處于較大不平衡的情況下,支持向量機(jī)會(huì)更傾向?qū)颖痉诸愔翑?shù)量多的一類。
審核編輯:劉清
-
向量機(jī)
+關(guān)注
關(guān)注
0文章
166瀏覽量
20980
原文標(biāo)題:機(jī)器學(xué)習(xí)相關(guān)介紹(20)——支持向量機(jī)(多類問(wèn)題之1類對(duì)K-1類方式)
文章出處:【微信號(hào):行業(yè)學(xué)習(xí)與研究,微信公眾號(hào):行業(yè)學(xué)習(xí)與研究】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
超強(qiáng)TDD抑制的多模K類功放
一種改進(jìn)的基于密度聚類模糊支持向量機(jī)
基于概率投票策略的多類支持向量機(jī)及應(yīng)用
基于搜索機(jī)制密度聚類的支持向量預(yù)選取算法
基于SVM的多類模擬調(diào)制方式識(shí)別算法
改進(jìn)分塊支持向量聚類在入侵檢測(cè)中的應(yīng)用
基于改進(jìn)FCM聚類的BT-SVM多類分類算法
基于支持向量機(jī)的手勢(shì)識(shí)別研究
支持向量和多中心點(diǎn)非線性聚類的兩大方法
基于可能性二均值聚類的二分類支持向量機(jī)
熵的二叉樹多類支持向量機(jī)的漏洞分類
支持向量機(jī)的手勢(shì)識(shí)別
基于單類支持向量機(jī)的織物瑕疵檢測(cè)研究

評(píng)論