我知道，我對與電子有關(guān)的所有事情都很著迷，但不論從哪個角度看，今天的現(xiàn)場可編程門陣列(FPGA)，都顯得“鶴立雞群”，真是非常棒的器件。如果在這個智能時代，在這個領(lǐng)域，想擁有一技之長的你還沒有關(guān)注FPGA，那么世界將拋棄你，時代將拋棄你。

從幾個方面來介紹一下GPU和FPGA。

從峰值性能來說，GPU（10Tflops)遠(yuǎn)遠(yuǎn)高于FPGA(<1TFlops)。GPU上面成千上萬個core同時跑在GHz的頻率上還是非常壯觀的，最新的GPU峰值性能可達(dá)10TFlops以上。GPU的架構(gòu)經(jīng)過仔細(xì)設(shè)計(jì)（例如使用深度流水線，retiming等技巧），在電路實(shí)現(xiàn)上是基于標(biāo)準(zhǔn)單元庫而在critical path上可以用手工定制電路，甚至在必要的情形下可以讓半導(dǎo)體fab依據(jù)設(shè)計(jì)需求微調(diào)工藝制程，因此可以讓許多core同時跑在非常高的頻率。相對而言，F(xiàn)PGA首先設(shè)計(jì)資源受到很大的限制，例如GPU如果想多加幾個core只要增加芯片面積就行，但FPGA一旦你型號選定了邏輯資源上限就確定了（浮點(diǎn)運(yùn)算在FPGA里會占用很多資源）。而且，F(xiàn)PGA里面的邏輯單元是基于SRAM-查找表，其性能會比GPU里面的標(biāo)準(zhǔn)邏輯單元差好多。最后，F(xiàn)PGA的布線資源也受限制（有些線必須要繞很遠(yuǎn)），不像GPU這樣走ASIC flow可以隨意布線，這也會限制性能。

除了芯片性能外，GPU相對于FPGA還有一個優(yōu)勢就是內(nèi)存接口。GPU的內(nèi)存接口（傳統(tǒng)的GDDR，最近更是用上了HBM和HBM2）的帶寬遠(yuǎn)好于FPGA的傳統(tǒng)DDR接口，而眾所周知服務(wù)器端機(jī)器學(xué)習(xí)算法需要頻繁訪問內(nèi)存。

但是從靈活性來說，F(xiàn)PGA遠(yuǎn)好于GPU。FPGA可以根據(jù)特定的應(yīng)用去編程硬件（例如如果應(yīng)用里面的加法運(yùn)算非常多就可以把大量的邏輯資源去實(shí)現(xiàn)加法器），但是GPU一旦設(shè)計(jì)完那就沒法改動了，沒法根據(jù)應(yīng)用去調(diào)整硬件資源。目前機(jī)器學(xué)習(xí)大多數(shù)適合使用SIMD架構(gòu)（即只需一條指令可以平行處理大量數(shù)據(jù)），因此用GPU很適合。但是有些應(yīng)用是MISD（即單一數(shù)據(jù)需要用許多條指令平行處理，微軟在2014年ISCA paper里面就舉了一個MISD用于并行提取feature的例子），這種情況下用FPGA做一個MISD的架構(gòu)就會比GPU有優(yōu)勢。不過FPGA的編程對于程序員來說并不容易，所以為了能讓機(jī)器學(xué)習(xí)程序員能方便地使用FPGA往往還需要在FPGA公司提供的編譯器基礎(chǔ)上進(jìn)行二次開發(fā)，這些都是只有大公司才能做。

FPGA實(shí)現(xiàn)的機(jī)器學(xué)習(xí)加速器在架構(gòu)上可以根據(jù)特定應(yīng)用優(yōu)化所以比GPU有優(yōu)勢，但是GPU的運(yùn)行速度（>1GHz)相比FPGA有優(yōu)勢(~200MHz)。

所以，對于平均性能，看的就是FPGA加速器架構(gòu)上的優(yōu)勢是否能彌補(bǔ)運(yùn)行速度上的劣勢。如果FPGA上的架構(gòu)優(yōu)化可以帶來相比GPU架構(gòu)兩到三個數(shù)量級的優(yōu)勢，那么FPGA在平均性能上會好于GPU。例如，百度在HotChips上發(fā)布的paper顯示，GPU的平均性能相比FPGA在矩陣運(yùn)算等標(biāo)準(zhǔn)batch data SIMD bench上遠(yuǎn)好于FPGA；但是在處理服務(wù)器端的少量多次處理請求（即頻繁請求但每次請求的數(shù)據(jù)量和計(jì)算量都不大）的場合下，平均性能會比GPU更好。

功耗方面，雖然GPU的功耗（200W）遠(yuǎn)大于FPGA的功耗（10W），但是如果要比較功耗應(yīng)該比較在執(zhí)行效率相同時需要的功耗。如果FPGA的架構(gòu)優(yōu)化能做到很好以致于一塊FPGA的平均性能能接近一塊GPU，那么FPGA方案的總功耗遠(yuǎn)小于GPU，散熱問題可以大大減輕。反之，如果需要二十塊FPGA才能實(shí)現(xiàn)一塊GPU的平均性能，那么FPGA在功耗方面并沒有優(yōu)勢。

能效比的比較也是類似，能效指的是完成程序執(zhí)行消耗的能量，而能量消耗等于功耗乘以程序執(zhí)行的時間。雖然GPU的功耗遠(yuǎn)大于FPGA的功耗，但是如果FPGA執(zhí)行相同程序需要的時間比GPU長幾十倍，那FPGA在能效比上就沒有優(yōu)勢了；反之如果FPGA上實(shí)現(xiàn)的硬件架構(gòu)優(yōu)化得很適合特定的機(jī)器學(xué)習(xí)應(yīng)用，執(zhí)行算法所需的時間僅僅是GPU的幾倍或甚至于接近GPU，那么FPGA的能效比就會比GPU強(qiáng)。