關(guān)鍵詞： CPU , AI云芯片 , Graviton , Inferentia

　　文/文強(qiáng)、張干、大明
　　來源：新智元（ID：AI_era）

　　【新智元導(dǎo)讀】本周，亞馬遜推出首款自研Arm架構(gòu)云服務(wù)器CPU Graviton和首款云端AI推理芯片AWS Inferentia，拳打TPU，腳踢英特爾，力圖走一條自己的云端芯一體化路線，未來云計(jì)算市場將迎巨變！
　　亞馬遜出手了，一出手就是兩顆炸彈！
　　本周一，亞馬遜推出首款自研Arm架構(gòu)云服務(wù)器CPU Graviton，目標(biāo)直指英特爾；
　　昨天，亞馬遜又推出了首款云端AI推理芯片AWS Inferentia，目標(biāo)是殺傷微軟Azure、谷歌云等一批對(duì)手，并讓中小玩家無牌可打。
　　亞馬遜力圖走一條自己的云端芯一體化路線，似乎沒有給其他人留出可趁之機(jī)。
　　未來云計(jì)算的市場，將迎來巨變！
　　亞馬遜自研Arm架構(gòu)數(shù)據(jù)中心CPU，成本最低降45%
　　據(jù)The Register報(bào)道，本周公布的亞馬遜AWS定制版Graviton——支持AWS的A1EC2實(shí)例的多核Arm處理器，處理器性能幾乎與AMD的基于Arm的芯片相當(dāng)，這些虛擬機(jī)現(xiàn)在可在美國和歐洲使用。

6 天前 上傳

下載附件 (31.71 KB)

Graviton：亞馬遜基于Arm架構(gòu)的CPU
　　關(guān)于Graviton的性能參數(shù)，目前能了解到的是：CPU內(nèi)核基于Arm 2015年的Cortex-A72設(shè)計(jì)，主頻為2.3GHz，為64位Armv8-A、非NUMA處理器，具備浮點(diǎn)數(shù)學(xué)計(jì)算、SIMD、AES，SHA-1、SHA-256、GCM和CRC-32算法的硬件加速功能。
　　片上系統(tǒng)使用Arm的數(shù)據(jù)中心優(yōu)化型Neoverse技術(shù)和Annapurna的內(nèi)部設(shè)計(jì)。 16個(gè)vCPU實(shí)例排列在4個(gè)四核集群中，每個(gè)集群有2MB的共享L2緩存，每個(gè)核有32KB的L1數(shù)據(jù)緩存和48KB的L1指令緩存。一個(gè)vCPU對(duì)應(yīng)一個(gè)物理核心。

6 天前 上傳

下載附件 (20.56 KB)

　　亞馬遜一位發(fā)言人表示：“AWS Graviton處理器是由AWS定制設(shè)計(jì)的新處理器系列，設(shè)計(jì)中融入了亞馬遜為大規(guī)模云應(yīng)用程序構(gòu)建平臺(tái)方案上的廣泛專業(yè)知識(shí)?！?br /> 　　據(jù)亞馬遜全球基礎(chǔ)設(shè)施和客戶服務(wù)VP Peter DeSantis所說，使用新的芯片能讓AWS虛擬機(jī)特定工作負(fù)載的價(jià)格再降低45%。
　　亞馬遜云首款A(yù)I芯片問世，降低推理成本75%
　　在亞馬遜美國拉斯維加斯大會(huì)上，昨天還放出另一個(gè)炸彈——首款云端AI芯片AWS Inferentia。

6 天前 上傳

下載附件 (14.13 KB)

　　AWS Inferentia是一款機(jī)器學(xué)習(xí)推理芯片，支持TensorFlow、Apache MXNet和PyTorch深度學(xué)習(xí)框架，以及使用ONNX格式的模型。

6 天前 上傳

下載附件 (24.19 KB)

　　使用經(jīng)過訓(xùn)練的機(jī)器學(xué)習(xí)模型進(jìn)行預(yù)測可以驅(qū)動(dòng)應(yīng)用程序高達(dá)90%的計(jì)算成本。開發(fā)人員可以將GPU支持的推理加速附加到Amazon EC2和Amazon SageMaker實(shí)例中，從而將推理成本降低75%。
　　根據(jù)官網(wǎng)介紹，每個(gè)Inferentia芯片提供高達(dá)幾百TOPS的算力，使復(fù)雜的模型能夠做出快速的預(yù)測。多個(gè)AWS Inferentia芯片可以一起使用來驅(qū)動(dòng)，形成成千上萬的TOPS算力。
　　這款芯片將于2019年底上市，AWS用戶可以通過Amazon SageMaker、Amazon EC2等一起使用 Inferentia的算力。
　　云計(jì)算巨頭自己造芯：擺脫束縛、降低成本、打擊對(duì)手
　　Graviton的問世顯示出亞馬遜AWS擺脫英特爾的決心。
　　目前，英特爾擁有全球數(shù)據(jù)中心計(jì)算幾乎全部市場份額，英特爾的服務(wù)器芯片價(jià)格居高不下，而且有供應(yīng)短缺的風(fēng)險(xiǎn)。
　　為了擺脫這種束縛，越來越多互聯(lián)網(wǎng)巨頭們正考慮使用Arm，OpenPower，RISC-V和AMD Epyc產(chǎn)品，定制自己的芯片，全球云計(jì)算巨頭（包括微軟，谷歌，F(xiàn)acebook，亞馬遜，百度等） 都在尋找替代芯片供應(yīng)商。
　　早在2015年左右，亞馬遜與AMD合作開發(fā)64位Arm服務(wù)器處理器，用于亞馬遜的數(shù)據(jù)中心。AMD還在2016年就推出了與亞馬遜合作的Arm芯片，代號(hào)“西雅圖”的Opteron A1100處理器。
　　不過，AMD未能達(dá)到亞馬遜的性能標(biāo)準(zhǔn)，于是亞馬遜退出了與AMD的合作，收購了Arm授權(quán)許可持有者和片上系統(tǒng)設(shè)計(jì)企業(yè)Annapurna Labs，讓收購后的團(tuán)隊(duì)開始設(shè)計(jì)物聯(lián)網(wǎng)網(wǎng)關(guān)及其Nitro芯片組，負(fù)責(zé)處理托管EC2虛擬機(jī)的亞馬遜服務(wù)器的網(wǎng)絡(luò)和存儲(chǔ)任務(wù)。
　　今天的高端Arm CPU的應(yīng)用范圍，遠(yuǎn)遠(yuǎn)超出了智能手機(jī)，還能夠運(yùn)行桌面端和輕型服務(wù)器上的應(yīng)用程序。Graviton的問世就是Annapurna Labs的成果。
　　而AWS Inferentia的問世則是打擊對(duì)手的思路。
　　第三季度，亞馬遜有一半利潤來自AWS云服務(wù)，AWS業(yè)務(wù)在第三季度的營業(yè)利潤率為31％，這是四年多以來的最高水平。
　　市場份額也印證了AWS的業(yè)績。根據(jù)Synergy Research的數(shù)據(jù)，亞馬遜的AWS控制著34%的云基礎(chǔ)設(shè)施服務(wù)市場。微軟以15%的市場份額位居第二，其次是IBM（第三）和谷歌（第四），市場份額均為個(gè)位數(shù)。

6 天前 上傳

下載附件 (27.41 KB)

　　形勢一片大好。
　　但是，AWS的對(duì)手也突飛猛進(jìn)。微軟Azure云計(jì)算同比增長76％，而Alphabet早在今年2月就宣稱，基于2017年的公開數(shù)據(jù)，谷歌云平臺(tái)是“全球增長最快的主要公有云提供商”。
　　谷歌云也在最近迎來大調(diào)整：現(xiàn)任CEO將在明年1月離職，接替她的是在甲骨文有20年工作經(jīng)驗(yàn)的云計(jì)算市場老手，緊緊盯住AWS的份額。
　　Inferentia芯片的推出，就是AWS應(yīng)對(duì)這種局面的殺手級(jí)武器，主要能夠降低成本。
　　至此，主要云計(jì)算公司中，AWS、谷歌云、阿里云、華為云都布局了AI芯片。
　　5000億美元市場廝殺：智能云市場重量級(jí)玩家全部整裝待發(fā)
　　亞馬遜的Inferentia芯片和Graviton讓人想起了華為發(fā)布升騰系列，這是科技巨頭要走一條自己的云端芯一體化路線。
　　亞馬遜要做的跟華為類似，所不同的是，亞馬遜的芯片已經(jīng)做出來了。亞馬遜也將成為首個(gè)在數(shù)據(jù)中心基礎(chǔ)設(shè)施采用基于Arm架構(gòu)CPU的大廠。
　　回頭再看亞馬遜全球基礎(chǔ)設(shè)施和客戶服務(wù)VP Peter DeSantis所說的“使用新的芯片能讓AWS虛擬機(jī)特定工作負(fù)載的價(jià)格再降低45%”。
　　這個(gè)數(shù)字不可小覷。
　　亞馬遜AWS本已經(jīng)是云計(jì)算市場毋庸置疑的王者，現(xiàn)今低價(jià)格加上客戶層鋪開，或?qū)⒅ㄆ鹆钇渌偁帉?duì)手者難以逾越的高墻——眾所皆知，低成本與大規(guī)模形成飛輪效應(yīng)，智能云計(jì)算是一個(gè)贏者通吃的市場。
　　發(fā)布會(huì)上還有一點(diǎn)值得注意，那就是亞馬遜云的完全托管端到端機(jī)器學(xué)習(xí)服務(wù)AWS SageMaker，將采用陳天奇團(tuán)隊(duì)的TVM 作為自動(dòng)優(yōu)化深度學(xué)習(xí)模型的框架編譯器，后端支持ARM、英特爾和英偉達(dá)的硬件。

6 天前 上傳

下載附件 (41.64 KB)

　　還記得英特爾的野心嗎？隨著各種框架（前端）和各種硬件（后端）的興起，大家想做更多的優(yōu)化，業(yè)界出現(xiàn)了框架編譯器這個(gè)“中間表示”（IR）之爭。英特爾想把自家的框架編譯器 nGRAPH 打造成 IR 的標(biāo)準(zhǔn)。現(xiàn)在亞馬遜直接支持 TVM，對(duì)即將于2019年年底發(fā)布新品的英特爾來說，無疑構(gòu)成了另一個(gè)層面上的打擊。
　　國內(nèi)云計(jì)算市場的No.1阿里云日前升級(jí)為阿里云智能平臺(tái)，由阿里CTO 張建鋒兼任阿里云智能事業(yè)群總裁，目標(biāo)是構(gòu)建數(shù)字經(jīng)濟(jì)時(shí)代面向全社會(huì)基于云計(jì)算的智能化技術(shù)基礎(chǔ)設(shè)施。這一舉措，呼應(yīng)騰訊新成立的云與智慧產(chǎn)業(yè)事業(yè)群，以及更早些時(shí)候從二級(jí)部門升級(jí)為一級(jí)部門的華為云。
　　至此，全球云計(jì)算市場的幾大主要玩家已經(jīng)全部整裝待發(fā)，誰將主宰價(jià)值5000億美元的智能云計(jì)算市場？
　　廝殺時(shí)間已到，請(qǐng)開始表演。
　　參考資料：
　　https://www.theregister.co.uk/20 ... aws_graviton_specs/