近期IBM稱(chēng)，通過(guò)采用基于相變存儲(chǔ)的模擬芯片，機(jī)器學(xué)習(xí)可以加速一千倍。相變存儲(chǔ)（PCM）是基于硫?qū)倩锊ＡР牧希茉谑┘雍线m電流時(shí)將介質(zhì)從晶態(tài)變?yōu)榉蔷B(tài)并再變回晶態(tài)，基于材料所表現(xiàn)出來(lái)的導(dǎo)電性差異來(lái)存儲(chǔ)數(shù)據(jù)。PCM設(shè)備是非易失性的，訪問(wèn)延遲達(dá)到DRAM級(jí)別，是存儲(chǔ)級(jí)內(nèi)存一個(gè)很好的范例。

IBM博客透露，其正在建立一個(gè)研發(fā)中心，以開(kāi)發(fā)新一代人工智能硬件并研究納米技術(shù)。技術(shù)合作伙伴包括紐約Staye，紐約州立大學(xué)理工學(xué)院，三星，Mellanox和Synopsis。

新型處理硬件

IBM研究院半導(dǎo)體和人工智能硬件副總裁，Mukesh Khare表示，目前的機(jī)器學(xué)習(xí)限制可以通過(guò)使用新的處理硬件來(lái)克服，例如;

數(shù)字化AI核心和近似計(jì)算

帶模擬內(nèi)核的內(nèi)存計(jì)算

采用優(yōu)化材料的模擬核心

他提到將深度神經(jīng)網(wǎng)絡(luò)（DNN）映射到模擬交叉點(diǎn)陣列（模擬AI核心）。它們?cè)陉嚵薪徊纥c(diǎn)處擁有非易失性存儲(chǔ)材料來(lái)存儲(chǔ)權(quán)重。

為了提高訓(xùn)練過(guò)程中決策的準(zhǔn)確性，DNN計(jì)算中的數(shù)值進(jìn)行了加權(quán)。

這些因素?zé)o需主機(jī)服務(wù)器CPU干預(yù)，就可以直接用交叉點(diǎn)PCM陣列實(shí)現(xiàn)，從而提供內(nèi)存計(jì)算，無(wú)需數(shù)據(jù)移動(dòng)。相比英特爾XPoint SSD或DIMM等，這是一個(gè)模擬陣列。

PCM單元沿著非晶態(tài)和晶態(tài)之間的8步梯度記錄突觸權(quán)重。每個(gè)步驟的電導(dǎo)或電阻可以用電脈沖改變。這8個(gè)步驟在DNN計(jì)算中提供了8位精度。

非易失性存儲(chǔ)的交叉陣列可以通過(guò)在數(shù)據(jù)位置處執(zhí)行計(jì)算來(lái)加速完全連接的神經(jīng)網(wǎng)絡(luò)訓(xùn)練。

模擬存儲(chǔ)器芯片內(nèi)部的計(jì)算

IBM的研究論文指出：“模擬非易失性存儲(chǔ)器（NVM）可以有效地加速”反向傳播“算法，這是許多最新AI技術(shù)進(jìn)步的核心。這些存儲(chǔ)器允許使用的“累積乘法”運(yùn)算，在模擬域中權(quán)重?cái)?shù)據(jù)的位置上，用基礎(chǔ)物理學(xué)進(jìn)行并行化。

我們只需將一個(gè)小電流通過(guò)一個(gè)電阻器連接到一根電線上，然后將許多這樣的電線連接在一起，讓電流積聚起來(lái)。這樣我們不需要一個(gè)接一個(gè)地執(zhí)行計(jì)算，而是可以同時(shí)執(zhí)行許多計(jì)算。并且相比在數(shù)字存儲(chǔ)芯片和處理芯片之間花時(shí)間傳輸數(shù)據(jù)，我們可以在模擬存儲(chǔ)芯片內(nèi)執(zhí)行所有計(jì)算。”

PS：昨天對(duì)單身狗來(lái)說(shuō)不是情人節(jié)，而是IBM從Computing Tabulating Recording計(jì)算列表紀(jì)錄公司改名為國(guó)際商業(yè)機(jī)器公司International Business Machines的日子——1924年2月14日。