在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

2024多樣性算力產(chǎn)業(yè)峰會:江波龍解碼AI存儲方案的未來之路

江波龍電子 ? 2024-06-21 08:20 ? 次閱讀

6月18日,多樣性算力產(chǎn)業(yè)峰會2024在北京圓滿舉行,江波龍企業(yè)級存儲事業(yè)部市場總監(jiān)曹潯峰受邀出席本次峰會并發(fā)表了《大模型時代AI存儲方案挑戰(zhàn)與創(chuàng)新》主題演講,深入探討了多樣性算力產(chǎn)業(yè)的發(fā)展趨勢和創(chuàng)新應(yīng)用。

116952e0-2f64-11ef-a655-92fbcf53809c.jpg

曹潯峰在演講中指出,隨著AI中大語言模型人工智能參數(shù)量呈指數(shù)級增長,AI應(yīng)用的復(fù)雜度也日益增加,這對AI訓(xùn)練過程中所需的緩存存儲容量和性能提出了更高的要求。然而,盡管AI應(yīng)用發(fā)展迅速,但相關(guān)的緩存硬件技術(shù)和產(chǎn)品的發(fā)展速度并未與之同步,這導(dǎo)致了AI模型訓(xùn)練過程中的性能瓶頸問題。曹潯峰深入分析了這一問題,并針對數(shù)據(jù)緩存、傳輸和存儲的瓶頸提出了具體的解決方案。

118484d4-2f64-11ef-a655-92fbcf53809c.jpg

在AI應(yīng)用的實(shí)踐中,原始數(shù)據(jù)通常需要經(jīng)歷精細(xì)的清洗和預(yù)處理流程,以轉(zhuǎn)化為符合AI訓(xùn)練要求的高質(zhì)量數(shù)據(jù)集。隨后,這些數(shù)據(jù)集通過網(wǎng)絡(luò)傳輸至AI服務(wù)器的本地SSD存儲,再通過PCIe通道uploadGPU HBM緩存中進(jìn)行訓(xùn)練。訓(xùn)練過程產(chǎn)生的中間數(shù)據(jù)量是訓(xùn)練初始數(shù)據(jù)的4~7倍。依靠目前GPU配備的數(shù)十GB HBM容量來存儲這些數(shù)據(jù)是遠(yuǎn)遠(yuǎn)不夠的,因此需要利用系統(tǒng)內(nèi)存RDIMM或性能和延時接近的高速存儲器設(shè)備作為補(bǔ)充。

曹潯峰指出,隨著AI訓(xùn)練模型參數(shù)量增長至千億或萬億級別,HBM緩存和RDIMM容量不足將會成為訓(xùn)練效率的瓶頸。在3D-stacked DRAM內(nèi)存成本高企的情況下,采用高性能、大容量的CXL存儲器或是8x GPU卡AI服務(wù)器理想的緩存優(yōu)化解決方案。同時,江波龍正在預(yù)研能夠支持AIC和E3.S的JBOM系統(tǒng),結(jié)合即將到來支持CXL2.0的服務(wù)器系統(tǒng),將為萬卡AI訓(xùn)練集群提供更具成本效益的內(nèi)存池化共享硬件解決方案。

11a81552-2f64-11ef-a655-92fbcf53809c.jpg

曹潯峰還分享了對AI應(yīng)用數(shù)據(jù)存儲優(yōu)化的思考。他提到,AI訓(xùn)練應(yīng)用對數(shù)據(jù)存儲的訪問主要為順序讀寫操作,而QLC在順序讀寫性能上與TLC接近,且成本更低。隨著PCIe Gen5帶寬的提升,QLC技術(shù)能夠滿足訓(xùn)練過程中Checkpoint數(shù)據(jù)存儲高帶寬高并發(fā)的存儲需求,因此,QLC SSD有望替代當(dāng)前主流的TLC SSD,成為大語言模型AI訓(xùn)練應(yīng)用的更優(yōu)選擇。

11be8648-2f64-11ef-a655-92fbcf53809c.png

曹潯峰重點(diǎn)介紹了江波龍的企業(yè)級存儲發(fā)展歷程。經(jīng)過不斷地技術(shù)創(chuàng)新,江波龍已成功構(gòu)建了完整的企業(yè)級存儲布局,涵蓋了NAND Flash+DRAM多顆粒類型產(chǎn)品,至今已經(jīng)成功推出了包括企業(yè)級PCIe 4.0 NVMe SSD、企業(yè)級SATA SSD、企業(yè)級RDIMM、CXL 2.0內(nèi)存拓展模塊在內(nèi)的多款高性能產(chǎn)品。

其中,江波龍今年推出的FORESEE CXL 2.0內(nèi)存拓展模塊,則是面向AI應(yīng)用的存儲優(yōu)化的成果之一。一方面,該產(chǎn)品支持內(nèi)存池化共享,能夠基于16Gb SDP顆粒實(shí)現(xiàn)192GB大容量,相比業(yè)界同期水平實(shí)現(xiàn)成本大幅度下降的優(yōu)勢。另一方面,產(chǎn)品基于 DDR5 DRAM開發(fā),支持PCIe 5.0×8接口,理論帶寬高達(dá)32GB/s,可與支持CXL規(guī)范及E3.S接口的背板和服務(wù)器主板實(shí)現(xiàn)無縫連接,并減少高昂的內(nèi)存成本和閑置的內(nèi)存資源,大幅提高內(nèi)存利用率,從而有效拓展AI服務(wù)器的內(nèi)存容量并提升帶寬性能,為應(yīng)用場景提供更具彈性和擴(kuò)展性的存儲解決方案。

11da6af2-2f64-11ef-a655-92fbcf53809c.jpg

在演講的最后,曹潯峰提到了公司面向行業(yè)領(lǐng)先客戶正在積極推進(jìn)從傳統(tǒng)產(chǎn)品銷售模式向TCM(Technology Contract Manufacture, 技術(shù)合約制造)合作模式的轉(zhuǎn)型升級。這一轉(zhuǎn)型旨在簡化存儲晶圓廠與終端客戶之間的溝通流程,解決因中間環(huán)節(jié)繁雜而導(dǎo)致的“斷層”問題,并有效應(yīng)對下游應(yīng)用市場對存儲產(chǎn)品的多樣化、定制化和創(chuàng)新化需求。通過TCM合作模式,江波龍將基于上游存儲晶圓廠或下游Tier1客戶的產(chǎn)品需求,高效完成存儲產(chǎn)品的一站式交付,從而提高存儲產(chǎn)業(yè)鏈從原廠、產(chǎn)品開發(fā)、封裝測試、產(chǎn)品制造到行業(yè)應(yīng)用的效率和效益。

11ed76a6-2f64-11ef-a655-92fbcf53809c.png

多樣性算力產(chǎn)業(yè)正迎來高速發(fā)展的黃金時期,創(chuàng)新技術(shù)層出不窮,新業(yè)態(tài)和新模式競相迸發(fā)。在這一進(jìn)程中,存儲技術(shù)扮演著至關(guān)重要的角色。江波龍將持續(xù)為計算產(chǎn)業(yè)發(fā)展貢獻(xiàn)新的動力,開創(chuàng)更多的合作機(jī)會,共同塑造計算產(chǎn)業(yè)的新未來。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 存儲
    +關(guān)注

    關(guān)注

    13

    文章

    4355

    瀏覽量

    86175
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31516

    瀏覽量

    270333
  • 江波龍
    +關(guān)注

    關(guān)注

    4

    文章

    278

    瀏覽量

    27090
收藏 人收藏

    評論

    相關(guān)推薦

    2025 CES:兩大品牌閃耀登場,展現(xiàn)存儲技術(shù)新未來

    人類安全等前沿領(lǐng)域的奧秘之中。 在這場科技盛宴中,公司旗下兩大知名品牌攜手亮相,成為展會上一道亮麗的風(fēng)景線。他們不僅帶來了多款令人矚目的創(chuàng)新存儲產(chǎn)品,更通過這些產(chǎn)品向全球觀眾詮釋
    的頭像 發(fā)表于 01-09 13:49 ?165次閱讀

    全棧定制方案亮相2024數(shù)字科技生態(tài)大會,PTM賦能電信云服務(wù)

    態(tài)”為主題,作為中國電信的重要合作伙伴,積極與中國電信及其產(chǎn)業(yè)鏈相關(guān)企業(yè)建立緊密合作關(guān)系。 在大會上,
    發(fā)表于 12-05 11:55 ?107次閱讀
    <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b>全棧定制<b class='flag-5'>方案</b>亮相<b class='flag-5'>2024</b>數(shù)字科技生態(tài)大會,PTM賦能電信云服務(wù)

    全棧定制方案亮相2024數(shù)字科技生態(tài)大會,PTM賦能電信云服務(wù)

    12月3日,2024中國電信數(shù)字科技生態(tài)大會在廣州開幕,龍首次亮相,全面展示其全棧定制能力,以及基于PTM商業(yè)模式的電信產(chǎn)業(yè)相關(guān)存儲產(chǎn)品
    的頭像 發(fā)表于 12-04 01:04 ?368次閱讀
    <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b>全棧定制<b class='flag-5'>方案</b>亮相<b class='flag-5'>2024</b>數(shù)字科技生態(tài)大會,PTM賦能電信云服務(wù)

    飛騰進(jìn)一步推動多樣性產(chǎn)業(yè)升級

    日前,“共筑新,智啟新未來多樣性產(chǎn)業(yè)
    的頭像 發(fā)表于 09-02 14:28 ?525次閱讀

    憶聯(lián)加入推委會,為新型智提供動力

    備受矚目的“多樣性產(chǎn)業(yè)峰會2024”在北京成功舉辦,憶聯(lián)應(yīng)邀全程參與此次
    的頭像 發(fā)表于 09-02 11:37 ?546次閱讀

    2024 MWC上海:探索存儲技術(shù)新趨勢

    6月26日至28日,2024 MWC上海在新國際博覽中心隆重舉行,半導(dǎo)體存儲品牌企業(yè)亮相展會,并在現(xiàn)場展示其最新成果,與全球行業(yè)精英共
    發(fā)表于 06-27 09:21 ?811次閱讀
    <b class='flag-5'>2024</b> MWC上海:<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b>探索<b class='flag-5'>存儲</b>技術(shù)新趨勢

    2024 MWC上海:探索存儲技術(shù)新趨勢

    6月26日至28日,2024MWC上海在新國際博覽中心隆重舉行,半導(dǎo)體存儲品牌企業(yè)亮相展會,并在現(xiàn)場展示其最新成果,與全球行業(yè)精英共同
    的頭像 發(fā)表于 06-27 08:20 ?480次閱讀
    <b class='flag-5'>2024</b> MWC上海:<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b>探索<b class='flag-5'>存儲</b>技術(shù)新趨勢

    FPGA廠商紫光同創(chuàng)入選多樣性產(chǎn)業(yè)及標(biāo)準(zhǔn)推進(jìn)委員會黃金成員

    日前,“共筑新,智啟新未來多樣性產(chǎn)業(yè)
    的頭像 發(fā)表于 06-23 16:58 ?1504次閱讀
    FPGA廠商紫光同創(chuàng)入選<b class='flag-5'>多樣性</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>產(chǎn)業(yè)</b>及標(biāo)準(zhǔn)推進(jìn)委員會黃金成員

    多樣性產(chǎn)業(yè)峰會2024成功舉辦,得瑞領(lǐng)新助力推動產(chǎn)業(yè)生態(tài)蓬勃發(fā)展

    6月18日,“共筑新,智啟新未來多樣性產(chǎn)業(yè)
    的頭像 發(fā)表于 06-20 09:27 ?453次閱讀
    <b class='flag-5'>多樣性</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>產(chǎn)業(yè)</b><b class='flag-5'>峰會</b><b class='flag-5'>2024</b>成功舉辦,得瑞領(lǐng)新助力推動<b class='flag-5'>產(chǎn)業(yè)</b>生態(tài)蓬勃發(fā)展

    得瑞領(lǐng)新邀您共赴多樣性產(chǎn)業(yè)峰會2024,探討未來新趨勢

    多樣性產(chǎn)業(yè)峰會2024將于6月18日在北京新青海喜來登酒店隆重舉辦。得瑞領(lǐng)新誠邀各界專業(yè)人士
    的頭像 發(fā)表于 06-14 10:42 ?353次閱讀

    2024高通汽車技術(shù)與合作峰會全面展示汽車存儲解決方案

    5月30日至31日,2024高通汽車技術(shù)與合作峰會在無錫國際會議中心順利舉行,攜其FORESEE品牌旗下的汽車
    的頭像 發(fā)表于 06-01 08:20 ?666次閱讀
    <b class='flag-5'>2024</b>高通汽車技術(shù)與合作<b class='flag-5'>峰會</b>:<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b>全面展示汽車<b class='flag-5'>存儲</b>解決<b class='flag-5'>方案</b>

    COMPUTEX 2024存儲矩陣全面出擊

    AI串聯(lián)共創(chuàng)未來”為主題,繼續(xù)朝著AI普遍和商業(yè)可行方向邁進(jìn)。AI系統(tǒng)對巨大
    的頭像 發(fā)表于 05-23 10:00 ?961次閱讀
    COMPUTEX <b class='flag-5'>2024</b>,<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b><b class='flag-5'>存儲</b>矩陣全面出擊

    出席CFMS2024峰會:突破存儲模組經(jīng)營魔咒

    產(chǎn)業(yè)鏈及終端應(yīng)用企業(yè),共同探討新的市場形勢下的機(jī)遇。 在CFMS2024峰會上,董事長、總
    的頭像 發(fā)表于 03-20 22:02 ?476次閱讀
    <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b>出席CFMS<b class='flag-5'>2024</b><b class='flag-5'>峰會</b>:突破<b class='flag-5'>存儲</b>模組經(jīng)營魔咒

    CFMS2024 | :突破存儲模組經(jīng)營魔咒

    的機(jī)遇。 在CFMS2024峰會上,董事長、總經(jīng)理蔡華發(fā)表了題為《突破
    發(fā)表于 03-20 16:39 ?582次閱讀
    CFMS<b class='flag-5'>2024</b> | <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b>:突破<b class='flag-5'>存儲</b>模組經(jīng)營魔咒

    CFMS2024解碼如何打破存儲模組廠的經(jīng)營魔咒

    備受矚目的2024中國閃存市場峰會(簡稱“CFMS2024”)將于3月20日在深圳盛大開幕。本屆峰會以“存儲周期 激發(fā)潛能”為主題,旨在探討
    發(fā)表于 03-12 09:55 ?335次閱讀
    CFMS<b class='flag-5'>2024</b>:<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龍</b><b class='flag-5'>解碼</b>如何打破<b class='flag-5'>存儲</b>模組廠的經(jīng)營魔咒
    主站蜘蛛池模板: 天天摸天天操天天干 | 高清影院在线欧美人色 | 久色乳综合思思在线视频 | 一级做a爰片久久毛片图片 一级做a爰片久久毛片鸭王 | 国产精品久久久久久久9999 | 国外精品视频在线观看免费 | 成人牲交一极毛片 | 娇妻被黑人蹂躏 | 好吊操免费视频 | 国产小视频网站 | 成 人 黄 色视频免费播放 | 男男h啪肉np文总受 男男h全肉耽污 | 18女毛片 | 国产精品1区2区3区在线播放 | mm365快播综合网 | 免费国产成高清人在线视频 | 成人看片在线观看 | 国产黄色在线看 | 免费看国产黄色片 | 国产成人优优影院 | 日本亚洲欧美美色 | 五月激情久久 | 久草视频在线免费看 | 五月婷婷婷婷婷 | 女同毛片 | 在线看免费 | 色噜噜亚洲精品中文字幕 | 欧美xxxx极品流血 | 香焦视频在线观看黄 | 国产成人乱码一区二区三区 | 亚洲精品成人a | 丝袜美腿一区 | 97夜夜澡人人爽人人喊一欧美 | 亚州一级毛片 | 婷婷成人丁香五月综合激情 | 午夜宅男在线 | 欧美一级视频在线观看欧美 | 高清不卡毛片免费观看 | 天天草天天操 | 午夜视频免费在线 | 国产亚洲一区二区在线观看 |