今年夏天，全球芯片領(lǐng)域的年度大事——Hot Chips大會(huì)，一共舉辦了25場(chǎng)會(huì)議，其中有16場(chǎng)或多或少都聚焦于處理人工智能(AI)任務(wù)的芯片上。這些芯片應(yīng)用涉及范圍廣泛，從瞄準(zhǔn)物聯(lián)網(wǎng)(IoT)和智能手機(jī)的超低功耗組件，到數(shù)據(jù)中心所需的高耗電芯片等。

曾經(jīng)圍繞著x86架構(gòu)的產(chǎn)業(yè)整并，使得這一微處理器年度盛事有好幾年變得不那么有趣。而今，隨著機(jī)器學(xué)習(xí)的崛起，Hot Chips再度成為專注于芯片架構(gòu)的工程師熱烈參與的年度盛會(huì)。

不管你相不相信，芯片業(yè)近來關(guān)注的重點(diǎn)并不只是深度學(xué)習(xí)。例如，大會(huì)中的一位發(fā)言人還介紹了可能取代DRAM的競(jìng)爭方案，并呼吁探討更多關(guān)于內(nèi)存技術(shù)的話題。

賽靈思(Xilinx)展示了一款針對(duì)AI打造的全新FPGA變化版本，并邀請(qǐng)與會(huì)者針對(duì)基于安全的全新運(yùn)算架構(gòu)展開設(shè)計(jì)移動(dòng)。

Alphabet董事長John Hennessey在發(fā)表專題演講時(shí)指出，在Google計(jì)算機(jī)架構(gòu)師發(fā)現(xiàn)安全漏洞之前，業(yè)界廣泛使用的推測(cè)執(zhí)行(speculative execution)技術(shù)易于遭受旁路攻擊(side-channel attack)的情況已經(jīng)存在長達(dá)20年了。

Insight64分析師Nathan Brookwood說：“這不禁令人懷疑還有什么是我們以往沒有注意到的......鑒于這些產(chǎn)品如此復(fù)雜卻仍能有效作業(yè)，這一點(diǎn)真的令人驚訝。”。

接下來，我們將重點(diǎn)介紹在今年Hot Chips大會(huì)上的一些有趣的討論。我們將從其中一些令人印象深刻的創(chuàng)新想法和目標(biāo)設(shè)計(jì)開始談起。

新創(chuàng)公司Tachyum挑戰(zhàn)Xeon

新創(chuàng)公司Tachyum無疑是其中最具有膽識(shí)的，但卻并不被看好。該公司的目標(biāo)在于透過其Prodigy芯片，從而在主流服務(wù)器(server)用處理器和AI加速器市場(chǎng)分一杯羹。Tachyum宣稱其Prodigy芯片的核心“比英特爾(Intel)的Xeon更快，也比Arm核心更小”。

該公司表示，這款7納米(nm) 290 mm2芯片支持多達(dá)64個(gè)核心，可在4GHz執(zhí)行頻率下提供高達(dá)2TFlops的運(yùn)算效能，預(yù)計(jì)明年出樣。

事實(shí)上，如果沒有重大的性能升級(jí)以及經(jīng)過多方測(cè)試，數(shù)據(jù)中心營運(yùn)商不太可能在其x86架構(gòu)中采用新創(chuàng)公司的芯片和軟件。因此，分析師Brookwood對(duì)于Tachyum采用超長指令字(VLIW)架構(gòu)抱持懷疑態(tài)度，畢竟這是英特爾在其Itanium中未能完美掌握的技術(shù)。他補(bǔ)充說，如果該芯片能取得任何市場(chǎng)吸引力，Tachyum很可能面臨來自英特爾等巨擘的專利訴訟。

Tachyum的Prodigy芯片支持九階整數(shù)和14階浮點(diǎn)運(yùn)算管線架構(gòu)（本文圖片來源：Hot Chips）

Optane引發(fā)法規(guī)爭議？

英特爾描述其最新的14nm Xeon服務(wù)器處理器Cascade Lake。該公司在不久前的一場(chǎng)活動(dòng)中才發(fā)布這款芯片，但在Hot Chips大會(huì)上提供了更多細(xì)節(jié)，但也引發(fā)一些爭議。

Cascade Lake采用與英特爾現(xiàn)有14nm Xeon相同的機(jī)制、散熱和插槽接口，也支持相同的核心數(shù)、快取結(jié)構(gòu)以及I/O速度。新增部份包括微調(diào)14nm工藝，以提高一點(diǎn)性能和降低一些功耗。此外，該芯片還支持新的AI指令和硬件，以避免暴露于Meltdown/Spectre的旁路通道攻擊。

但其重點(diǎn)在于，Cascade Lakes是第一款帶有內(nèi)存控制器的Xeon，可支持Intel Optane (即3D XPoint內(nèi)存)，可為每插槽提供高達(dá)3TB主存儲(chǔ)器以及帶來超越DRAM的讀/寫速度。

介紹該新產(chǎn)品的英特爾工程師并未評(píng)論Optane的耐用性。然而，他表示，這些主板使用的Jedec DDR4電氣總線采用英特爾的專有協(xié)議，這已能讓競(jìng)爭對(duì)手近期內(nèi)都望塵莫及。

Brookwood說：“我認(rèn)為這并不至于構(gòu)成法律挑戰(zhàn)。”

“如果我是IBM或AMD，當(dāng)Optane DIMM普及于數(shù)據(jù)中心而我卻無法取得時(shí)，那么我可能會(huì)要大發(fā)牢騷了！英特爾占據(jù)了98%的服務(wù)器市場(chǎng)，在我看來，這就是一種壟斷。”

英特爾目前正主導(dǎo)儲(chǔ)存網(wǎng)絡(luò)產(chǎn)業(yè)協(xié)會(huì)(SNIA)，為Optane等替代主流內(nèi)存打造軟件平臺(tái)

NEC加速器低價(jià)挑戰(zhàn)Nvidia V100

NEC描述一款新的向量引擎，可搭載PCIe Gen 3板卡，而功耗還不到200W。該芯片專為搭配SX-Aurora超級(jí)計(jì)算機(jī)與Linux服務(wù)器中的x86主機(jī)而設(shè)計(jì)，據(jù)稱其價(jià)格要比Nvidia V100更低得多。

NEC聲稱其向量芯片可提供高達(dá)307GFlops的雙精度性能。在大多數(shù)基準(zhǔn)檢驗(yàn)下，其性能可介于Xeon和V100二者之間。該公司還指出，NEC芯片的內(nèi)存帶寬略高，而且在一些工作負(fù)載上的性能功耗比幾乎相當(dāng)于Nvidia GPU。

相較于Nvidia V100芯片尺寸約840 mm2，NEC的1.6GHz、16nm向量芯片尺寸相對(duì)較小——480-mm2。此外，NEC的芯片支持多達(dá)6個(gè)Hi8或Hi4 HBM2內(nèi)存堆棧，可提供高達(dá)48GB的總內(nèi)存容量。

為IoT打造超低功耗AI加速器

美國哈佛大學(xué)(Harvard University)和Arm的研究人員連手發(fā)表一種用于物聯(lián)網(wǎng)中執(zhí)行深度學(xué)習(xí)任務(wù)的超低功耗加速器。這款所謂的SMIV芯片采用臺(tái)積電(TSMC) 16-nm FFC工藝打造，芯片尺寸約為25 mm2。

SMIV可說是使用Arm Cortex-A核心的首款學(xué)術(shù)界開發(fā)芯片。它在always-on的加速器叢集中使用近閾值操作，并透過嵌入式FPGA模塊提供大約80個(gè)硬件MAC和44Kbits RAM。

因此，該芯片能以低功率提供更高精確度。同時(shí)，相較于競(jìng)爭方案，它的功率和面積效率都提高了近10倍。

MIT打造更低功耗導(dǎo)航芯片

美國麻省理工學(xué)院(MIT)的研究人員則為機(jī)器人和無人機(jī)打造了一款客制設(shè)計(jì)的導(dǎo)航芯片，據(jù)稱該芯片的功耗較Arm CPU核心更低。這款Navion導(dǎo)航芯片采用65nm CMOS制造，在20-mm2芯片面積上打造視覺慣性測(cè)距引擎。

研究人員稱，該芯片的性能是標(biāo)準(zhǔn)CPU的2倍至3倍，并可縮減多達(dá)5.4倍的內(nèi)存占用空間。它在最大配置下的功耗為24mW，而在優(yōu)化配置時(shí)的功耗僅2mW，而仍能實(shí)現(xiàn)實(shí)時(shí)導(dǎo)航。

在Hot Chips大會(huì)的多場(chǎng)會(huì)議中只針對(duì)已發(fā)布的組件(有的甚至都已經(jīng)出貨)提供較多細(xì)節(jié)。接下來我們將先介紹用于客戶端系統(tǒng)的AI加速器和CPU，并將關(guān)注焦點(diǎn)轉(zhuǎn)向服務(wù)器處理器和加速器。

Arm展示新款機(jī)器學(xué)習(xí)核心實(shí)力

Arm深入探討其預(yù)計(jì)將在年底出現(xiàn)在芯片中的機(jī)器學(xué)習(xí)核心。新款機(jī)器學(xué)習(xí)核心可在1GHz提供約4TOPS運(yùn)算性能，以及在以7nm制造的2.5-mm2核心上提供超過3TOPS/W性能。其乘法累加單元支持8個(gè)16位寬點(diǎn)乘積。

Arm介紹其機(jī)器學(xué)習(xí)核心上的8 x 8區(qū)塊壓縮

三星提升智能手機(jī)性能

三星舉例說明聰明的工程師如何在工藝技術(shù)進(jìn)展趨緩時(shí)顯著提升性能。因此，從一系列基準(zhǔn)檢驗(yàn)來看，目前在其智能手機(jī)中使用的2.7GHz M3應(yīng)用處理器，輕輕松松地就能超越前一代M2至少50%以上。

這項(xiàng)進(jìn)展來自于在其分支預(yù)測(cè)器中使用神經(jīng)網(wǎng)絡(luò)，以及利用德州農(nóng)工大學(xué)(Texas A&M )教授Daniel A. Jiménez的學(xué)術(shù)研究成果。不過，M3應(yīng)用處理器的芯片尺寸是M2的2倍以上，但采用了10 LPP工藝——這是三星10 LPE工藝的微幅升級(jí)。

Mythic展示內(nèi)存處理器最新進(jìn)展

Mythic描述其內(nèi)存處理器(PIM)設(shè)計(jì)細(xì)節(jié)，它可用于處理具有0.5 picojoules/MAC的深度學(xué)習(xí)影像。該芯片設(shè)計(jì)針對(duì)監(jiān)控和工廠相機(jī)，功耗約為5W，包括所有數(shù)字控制邏輯。

PIM概念已出現(xiàn)多年了，但一直到最近才被應(yīng)用于AI。Mythic打造基于NOR單元的可變電阻器數(shù)組，但并不在內(nèi)存單元寫入和讀取深度學(xué)習(xí)權(quán)重。相反地，它將電壓施加到數(shù)組線，以求和并讀取電流級(jí)，進(jìn)一步達(dá)到省電的效果。

初始芯片可處理有限數(shù)量的權(quán)重，但基于磚式(tile)的設(shè)計(jì)可為全標(biāo)線芯片擴(kuò)展多達(dá)5倍權(quán)重。此外，還可以添加Arm核心以創(chuàng)建可編程組件，而且多個(gè)芯片間可以協(xié)同工作以執(zhí)行更大的應(yīng)用程序(app)或更快地執(zhí)行。但缺點(diǎn)之一在于無法利用神經(jīng)網(wǎng)絡(luò)的稀疏特性。

Mythic聲稱，這款40nm芯片的功耗只有GPU的一小部份。該公司預(yù)計(jì)明年年中提供樣片，并預(yù)計(jì)于2019年底量產(chǎn)。

Mythic的PIM目的在于以MCU功率提供GPU性能，而不至于影響稀疏神經(jīng)網(wǎng)絡(luò)

Google側(cè)寫Pixel Visual Core

Google介紹在其最新智能手機(jī)中的Pixel Visual Core。這款基于A53的可編程引擎，專為手機(jī)攝影機(jī)執(zhí)行目前仍在發(fā)展中的最新版HDR +算法。一位Google工程師打趣地說：“它能讓你的社交媒體圖片看來不會(huì)太糟糕。”

有趣的是，三星內(nèi)存部門的一位工程師問道，未來世代是否會(huì)放棄典型的圖像處理管線，轉(zhuǎn)而采用新興的深度學(xué)習(xí)技術(shù)？Google工程師回復(fù)說：“但我們還沒在這個(gè)領(lǐng)域發(fā)布太多AI算法啊！”

Google聲稱其28nm Pixel核心執(zhí)行HDR+作業(yè)的速度比10nm移動(dòng)應(yīng)用處理器的CPU快至少2.8倍

IBM強(qiáng)化Power 9服務(wù)器系統(tǒng)

針對(duì)服務(wù)器領(lǐng)域，IBM與英特爾似乎都在14nm節(jié)點(diǎn)停擺一段時(shí)間了。IBM這次在Hot Chips介紹其最新的計(jì)劃，為基于其Power 9處理器的系統(tǒng)強(qiáng)化I/O和內(nèi)存帶寬，不過，至少要到2020年或之后才會(huì)針對(duì)新工藝提供新設(shè)計(jì)了。

IBM的目標(biāo)是在其Power 9服務(wù)器上發(fā)掘更多內(nèi)存帶寬，同時(shí)為基于7-nm處理器的設(shè)計(jì)做好準(zhǔn)備

富士通將Arm核心帶入超級(jí)計(jì)算機(jī)

富士通(Fujitsu)描述了7-nm A64FX，其設(shè)計(jì)目標(biāo)在于成為超級(jí)計(jì)算機(jī)中的首批Arm核心之一。該512位SIMD芯片為Arm架構(gòu)帶來向量擴(kuò)展，以執(zhí)行傳統(tǒng)的超級(jí)運(yùn)算和新的AI任務(wù)。52核心的芯片使用32GB HBM2內(nèi)存，可提供2.7TFlops性能和1,024GB/s的內(nèi)存帶寬。

富士通的首款post-Sparc設(shè)計(jì)A64FX，瞄準(zhǔn)用于將在2021年發(fā)表的日本新一代Post-K超級(jí)計(jì)算機(jī)

Nvidia展示其GPU服務(wù)器實(shí)力

Nvidia透過其DGX-2及其內(nèi)部NVLink互連，從芯片進(jìn)一步擴(kuò)展到系統(tǒng)。該公司展示了幾項(xiàng)基準(zhǔn)檢驗(yàn)，包括以DGX-2展現(xiàn)超越標(biāo)準(zhǔn)雙GPU系統(tǒng)的性能。

英特爾、AMD以及…中東和平？

英特爾介紹如何使用其嵌入式多芯片互連橋接(EMIB)技術(shù)，將其Kaby Lake桌上型x86 CPU與AMD Radeon RX Vega M GPU連接在一個(gè)模塊(下圖)中，以用于輕薄型筆記本電腦。

分析師Brookwood還與英特爾主講人開玩笑說，“不管是誰來談成這項(xiàng)協(xié)議的，接下來應(yīng)該可以派他去進(jìn)行中東和平的任務(wù)。“