在SEMiBAY2024《HBM與存儲(chǔ)器技術(shù)與應(yīng)用論壇》上,億鑄科技的創(chuàng)始人、董事長(zhǎng)兼CEO熊大鵬博士發(fā)表了題為《超越極限:大算力芯片的技術(shù)挑戰(zhàn)與解決之道》的演講,深入剖析了AI大模型時(shí)代算力芯片所面臨的挑戰(zhàn)與機(jī)遇。
熊大鵬博士指出,AI大模型技術(shù)的快速發(fā)展推動(dòng)了算力需求的急劇增長(zhǎng)。隨著數(shù)據(jù)、算力和模型參數(shù)量的不斷提升,AI大模型的能力顯著增強(qiáng),甚至出現(xiàn)了類(lèi)似人類(lèi)的“涌現(xiàn)”能力,預(yù)示著AI應(yīng)用的廣泛落地即將到來(lái)。然而,現(xiàn)有的芯片硬件性能提升速度已難以滿足這種急劇增長(zhǎng)的算力需求,摩爾定律正面臨前所未有的挑戰(zhàn)。
據(jù)Omdia最新報(bào)告預(yù)測(cè),用于云計(jì)算和數(shù)據(jù)中心人工智能的GPU和其他加速芯片市場(chǎng)規(guī)模將大幅增長(zhǎng),但到2026年市場(chǎng)可能會(huì)出現(xiàn)明顯拐點(diǎn),增長(zhǎng)動(dòng)力將從技術(shù)采用轉(zhuǎn)向人工智能應(yīng)用需求的變化。同時(shí),IDC預(yù)測(cè)未來(lái)人工智能服務(wù)器將更加注重提高計(jì)算能力和處理效率(能效比),以適應(yīng)更復(fù)雜、更大規(guī)模的人工智能應(yīng)用。
面對(duì)這一挑戰(zhàn),熊大鵬博士強(qiáng)調(diào),硬件架構(gòu)的創(chuàng)新成為突破算力瓶頸的關(guān)鍵路徑之一?,F(xiàn)有的AI芯片面臨著“三堵墻”問(wèn)題:存儲(chǔ)墻、能耗墻和編譯墻。存儲(chǔ)墻是指存儲(chǔ)器的數(shù)據(jù)訪問(wèn)速度跟不上計(jì)算單元的數(shù)據(jù)處理速度,導(dǎo)致性能瓶頸;能耗墻則是指隨著芯片性能的提升,能耗和散熱問(wèn)題成為限制性能進(jìn)一步提升的主要因素;編譯墻則是隨著AI模型的復(fù)雜性增加,編譯器需要處理的數(shù)據(jù)量和計(jì)算任務(wù)也急劇增加,使得優(yōu)化變得非常困難。
為了打破這三堵墻,億鑄科技選擇了創(chuàng)新之路。熊大鵬博士介紹,億鑄科技采用“存算一體超異構(gòu)”架構(gòu)這一全新的芯片設(shè)計(jì)思路,極大地減少了數(shù)據(jù)搬運(yùn)的延遲,提升了整體的計(jì)算效率和能效比。這種架構(gòu)通過(guò)將數(shù)據(jù)搬運(yùn)量大幅下降,使得有效算力密度能夠線性增長(zhǎng),從而突破傳統(tǒng)計(jì)算模式的瓶頸。
熊大鵬博士進(jìn)一步指出,未來(lái)算力增長(zhǎng)將以存儲(chǔ)單元為中心,而不是傳統(tǒng)的算力單元。通過(guò)存算一體架構(gòu)等技術(shù),可以打破有效算力的天花板,實(shí)現(xiàn)更高的有效算力。億鑄科技自成立以來(lái),始終致力于通過(guò)存算一體提供更具性價(jià)比、更高能效比、更大算力發(fā)展空間的AI大算力芯片發(fā)展新路徑。
展望未來(lái),熊大鵬博士表示,隨著AI技術(shù)的不斷進(jìn)步和算力需求的不斷增長(zhǎng),億鑄科技將通過(guò)創(chuàng)新的存算一體架構(gòu)為AI芯片的發(fā)展提供新的方向。在大模型時(shí)代,億鑄科技的技術(shù)和產(chǎn)品將為AI技術(shù)的發(fā)展提供強(qiáng)大的支持,推動(dòng)整個(gè)行業(yè)向前發(fā)展。我們有理由期待,隨著億鑄科技技術(shù)的不斷成熟和應(yīng)用的不斷擴(kuò)展,AI芯片技術(shù)將迎來(lái)一個(gè)新的發(fā)展階段,為科技進(jìn)步做出更大的貢獻(xiàn)。
-
芯片
+關(guān)注
關(guān)注
455文章
50816瀏覽量
423613 -
AI
+關(guān)注
關(guān)注
87文章
30894瀏覽量
269085 -
算力
+關(guān)注
關(guān)注
1文章
977瀏覽量
14810
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
億鑄科技榮登2024創(chuàng)業(yè)邦100未來(lái)獨(dú)角獸榜單
億鑄科技榮獲WISE2024年度最具商業(yè)潛力企業(yè)
企業(yè)AI算力租賃模式的好處
億鑄科技入選畢馬威中國(guó)“芯科技”新銳企業(yè)50強(qiáng)
企業(yè)AI算力租賃是什么
小鵬AI科技日:圖靈AI芯片40天完成2791項(xiàng)驗(yàn)證
AI時(shí)代算力的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)
AI算力芯片供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載
![<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載](https://file1.elecfans.com/web2/M00/0A/2C/wKgZomcbDcyABueIAAESMHl2Bno810.png)
大算力芯片面臨的技術(shù)挑戰(zhàn)和解決策略
存算一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大算力AI芯片騰飛
億鑄科技完成數(shù)億元融資
億鑄科技2024年完成數(shù)億元融資
今日看點(diǎn)丨小鵬自研芯片流片!算力是同行三倍;加拿大將對(duì)中國(guó)電動(dòng)汽車(chē)征收100%關(guān)稅
![今日看點(diǎn)丨小<b class='flag-5'>鵬</b>自研<b class='flag-5'>芯片</b>流片!<b class='flag-5'>算</b><b class='flag-5'>力</b>是同行三倍;加拿大將對(duì)中國(guó)電動(dòng)汽車(chē)征收100%關(guān)稅](https://file1.elecfans.com/web2/M00/05/39/wKgaombNR_OAZg6YAAWYpnLGof0337.png)
評(píng)論