ChatGPT熱潮席卷全球。在問答模式的基礎(chǔ)上ChatGPT可以進(jìn)行推理、編寫代碼、文本創(chuàng)作等等,這樣的特殊優(yōu)勢和用戶體驗(yàn)使得應(yīng)用場景流量大幅增加,其2023年1月月活躍用戶達(dá)到1億,是史上月活用戶增長最快的消費(fèi)者應(yīng)用。
ChatGPT的“背后英雄”:芯片,國內(nèi)GPU、CPU、FPGA、AI芯片及光模塊產(chǎn)業(yè)鏈蓄勢待發(fā)。
1)GPU:支撐強(qiáng)大算力需求。由于具備并行計(jì)算能力,可兼容訓(xùn)練和推理,目前GPU被廣泛應(yīng)用于加速芯片;
2)CPU:可用于推理/預(yù)測。AI服務(wù)器利用CPU與加速芯片的組合可以滿足高吞吐量互聯(lián)的需求;
3)FPGA:可通過深度學(xué)習(xí)+分布集群數(shù)據(jù)傳輸賦能大模型。FPGA具備靈活性高、開發(fā)周期短、低延時(shí)、并行計(jì)算等優(yōu)勢;
4)ASIC:極致性能和功耗表現(xiàn)。AI ASIC芯片通常針對AI應(yīng)用專門設(shè)計(jì)了特定架構(gòu),在功耗、可靠性和集成度上具有優(yōu)勢;
5)光模塊:容易被忽略的算力瓶頸。伴隨數(shù)據(jù)傳輸量的增長,光模塊作為數(shù)據(jù)中心內(nèi)設(shè)備互聯(lián)的載體,需求量隨之增長。
01
算力需求爆發(fā)拉動芯片量價(jià)齊升
02
技術(shù)創(chuàng)新引領(lǐng)本土產(chǎn)業(yè)鏈彎道突圍
審核編輯 :李倩
-
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5555瀏覽量
122512 -
算力
+關(guān)注
關(guān)注
2文章
1152瀏覽量
15471 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1588瀏覽量
8820
原文標(biāo)題:ChatGPT算力:研究框架(2023)
文章出處:【微信號:架構(gòu)師技術(shù)聯(lián)盟,微信公眾號:架構(gòu)師技術(shù)聯(lián)盟】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
AI算力:智能時(shí)代的核心驅(qū)動力


算智算中心的算力如何衡量?

科技云報(bào)到:要算力更要“算利”,“精裝算力”觸發(fā)大模型產(chǎn)業(yè)新變局?
浪潮信息與智源研究院攜手共建大模型多元算力生態(tài)
算力基礎(chǔ)篇:從零開始了解算力

企業(yè)AI算力租賃是什么
GPU算力開發(fā)平臺是什么
淺析三大算力之異同

大模型時(shí)代的算力需求
中科曙光入選2024算力服務(wù)產(chǎn)業(yè)圖譜及算力服務(wù)產(chǎn)品名錄
中國算力中心市場持續(xù)增長,智能算力規(guī)模快速崛起
曙光攜手“算力互聯(lián)公共服務(wù)平臺”提高全國算力匹配效率
算力基礎(chǔ)設(shè)施的風(fēng)險(xiǎn)與挑戰(zhàn)

評論