在AI和大數(shù)據(jù)時(shí)代到來之后，GPU單兵作戰(zhàn)就變成了奢望，以現(xiàn)在的數(shù)據(jù)中心和超算為例，動(dòng)輒就是成千上萬張GPU，龐大的GPU網(wǎng)絡(luò)在交換機(jī)和光模塊的支持下代表了這個(gè)計(jì)算時(shí)代下最高的算力。但并非只有數(shù)據(jù)中心和超算里的GPU才需要這樣的擴(kuò)展性，嵌入式GPU和專業(yè)GPU同樣如此。

物理限制的嵌入式GPU

隨著各種傳感器的性能持續(xù)走高，譬如多線激光雷達(dá)、高分辨率的圖像傳感器等，我們對(duì)邊緣計(jì)算單元尤其是GPU的需求也在持續(xù)增加。但在實(shí)現(xiàn)的過程中，我們還有一些物理限制沒法消除，像是尺寸、重量和功耗等。

為了解決這一系列問題，美國(guó)政府和行業(yè)方案提供商們成立了SOSA聯(lián)盟，以求開發(fā)開放的標(biāo)準(zhǔn)和最好的方案來實(shí)現(xiàn)高性價(jià)比、互操作性強(qiáng)的傳感器系統(tǒng)。如何克服這些負(fù)載計(jì)算工作量提升帶來的挑戰(zhàn)，又能不增加寶貴的物理資源呢？答案自然還是將GPU、DPU等技術(shù)集成到嵌入式結(jié)構(gòu)中去。

這類嵌入式GPU并非用來單獨(dú)售賣，而是交給合作伙伴整合到不同的邊緣計(jì)算系統(tǒng)中，比如研華、凌華、EIZO、Mercury Systems等，然后交付給美國(guó)空軍、洛克希德·馬丁這類軍事、航空、工業(yè)客戶。

即便選擇了嵌入式結(jié)構(gòu)，也還有著不少的路線，比如GPU、FPGA和ASIC等等。SOSA聯(lián)盟主席，來自美國(guó)空軍的Ilya Lipkin表示，如果想要更快的運(yùn)行速度，快速部署軟件，自然是選擇GPU最好。但他們也面臨著空間的問題，因?yàn)榍度胧紾PU往往會(huì)被塞到3U或者6U的服務(wù)器里，他們想要做到更小的體積，甚至是手掌大小，可這樣一來就不得不犧牲帶寬、容量。

所以，雖然嵌入式GPU仍然在這些嵌入式傳感系統(tǒng)中可以保持領(lǐng)先地位，但他們并沒有像獲得數(shù)據(jù)中心那樣不算嚴(yán)格的空間要求。目前的MXM嵌入式GPU可以做到PCIe GPU五分之一的尺寸，但這對(duì)于嵌入式GPU的擴(kuò)展性來說還不算完美。在邊緣計(jì)算上，反倒是一些FPGA和ASIC方案在能耗比和擴(kuò)展性上占優(yōu)，如果嵌入式GPU不能做到更強(qiáng)大的擴(kuò)展性，很有可能會(huì)被后來者顛覆。

顯卡交火時(shí)代的結(jié)束

不管是最新發(fā)布的RTX4090消費(fèi)級(jí)顯卡，還是RTX 6000這樣的專業(yè)顯卡，都象征了英偉達(dá)在新架構(gòu)GPU上的又一次創(chuàng)新。在臺(tái)積電4N工藝的加持下，無論是晶體管數(shù)目還是CUDA核心都做到了極致。

然而，原本變成了專屬英偉達(dá)高端消費(fèi)顯卡和專業(yè)顯卡的交火技術(shù)NVLink，在RTX4090和RTX 6000上卻無處可尋，難不成英偉達(dá)徹底放棄顯卡交火技術(shù)，也就此放棄NVLink了？根據(jù)英偉達(dá)CEO黃仁勛的說法，他們省下了NVLink連接器的空間，釋放了更多的空間來處理更多的AI計(jì)算。

在上一代顯卡的NVLink中，通過連接兩塊英偉達(dá)顯卡，使用高端顯卡和專業(yè)顯卡的專業(yè)系統(tǒng)能夠獲得更高的帶寬和雙倍的顯存容量。這樣的提升對(duì)于個(gè)人或?qū)I(yè)用戶來說是極大的提升，那么為何英偉達(dá)會(huì)放棄NVLink呢？筆者也在英偉達(dá)GTC的一次分享會(huì)議上提出了這一問題。

英偉達(dá)方面表示，就RTX 6000這類專業(yè)顯卡而言，他們?nèi)∠鸑VLink后省下了足夠的空間，塞入了更多的計(jì)算單元來提升單卡的性能。與此同時(shí)，雖然這些專業(yè)顯卡的NVLink支持被取消，不代表英偉達(dá)放棄了這一技術(shù)。英偉達(dá)決心將NVLink的重心放在數(shù)據(jù)中心產(chǎn)品上，比如Grace CPU、Hopper GPU，他們通過NVLink Die to Die和Chip to Chip的互聯(lián)可以實(shí)現(xiàn)更好的擴(kuò)展性。

但這確實(shí)象征著一個(gè)時(shí)代的結(jié)束，過去AMD的交火和英偉達(dá)的SLI也是兩家競(jìng)爭(zhēng)最火熱的一項(xiàng)技術(shù)，可隨著AMD放棄了交火支持，英偉達(dá)的SLI在換成NVLink后如今也迎來了終結(jié)。

但顯卡交火的落幕也情有可原，且不說這種互聯(lián)方式的受眾群體一再變少，要想享受到顯卡交火的性能也需要軟件追加更新支持。或許專業(yè)顯卡的目標(biāo)還是追求單卡性能就好，多卡互聯(lián)的支持還是讓給數(shù)據(jù)中心吧。