構造機器學習算法之前：觀察數據，總結規律

隨著大數據和深度學習的發展，互聯網中已具有開源機器學習算法模型。如果通過收集大量數據，并將數據輸入至某種機器學習的開源算法中訓練，則大概率無法得到較好的結果。開發人員如果沒有對數據感性的認識，難以設計出性能較好的算法，同時，開發人員也難以估計算法的性能極限。

因此，開發人員在構造機器學習算法之前需觀察數據，總結規律。 ?

第一步、特征提取（Feature Extraction）

特征提取是指通過樣本獲得對機器學習任務有幫助的多維度特征數據。特征提取對于機器學習系統的構件是重要的，實踐表明，如果開發人員提取了特征較好，那么即使采用較差的機器學習算法，也可獲得較好的性能，但如果開發人員提取的特征較差，無法反應樣本的內在規律，那么即使采用較好的機器學習算法，也無法獲得較好的性能。 ? 不同任務提取特征的方式不同。圖像、語音、三維點云（根據百度百科：三維點云是按照規則格網排列的三維坐標點的數據集）等媒質的物理屬性各不相同，各種媒質對應機器學習的任務也不同，因此，機器學習算法的特征提取的方式較多，開發人員欲想將各種機器算法特征提取最優方式完全掌握需要較長時間。 ? ?

第二步、特征選擇（Feature Selection）

? 特征選擇需要選擇區分度高的特征。如圖一所示，圖一中上方兩張圖的紅線與藍線重合較少，可被視為區分度高的特征，圖一下方兩張圖的紅線與藍線重合較高，相比于圖一上方兩張圖的區分度較低。因此，經過特征選擇步驟，圖一中上方兩張圖將被選擇。 ?

圖一，圖片來源：根據中國慕課大學《機器學習概論》資料制作 ?

? 第三步，選擇機器學習算法

開發人員選擇適合其選擇特征的算法。機器學習算法包括：支持向量機（Support Vector Machine）、人工神經網絡 （Neural Networks）、深度神經網絡（Deep Neural Networks），每種機器學習算法中包含多種內核（可將多種內核理解為多個機器學習算法）。 ?
? 第四步，得到特征空間（Feature Space），完成機器學習

如圖二所示，圖二中的三張二維平面圖均為特征空間圖形，三張特征空間圖形內的直線或曲線（紅色橢圓框內）是計算機完成不同機器學習后得出的不同分類依據，計算機可依照其所得到的分類依據對新數據進行分類。 ?

圖二，圖片來源：根據中國慕課大學《機器學習概論》資料制作 ? 在更復雜的機器學習中，特征空間的維度處于幾百至幾萬數量級的維度，深度學習的特征空間維度可處于幾十萬量級的維度，機器學習適合在高維度特征空間中的預測。

? 同時，不同機器學習所得出的分類標準不同（即三張特征空間圖形內的直線或曲線的形狀不同）。因此，針對某一數據，不同機器學習算法將得出不同的預測結果。但因為開發人員難以窮盡所有數據，所以無法簡單確定哪種機器學習算法更優。 ? ?

編輯：黃飛

?