91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

芯啟源DPU賦能AI算力網絡 助力云基礎設施生態共建

芯啟源 ? 來源:芯啟源 ? 2023-05-05 10:58 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

第六屆數字中國建設峰會(簡稱“數字峰會”)在福州召開。本屆數字峰會由國家互聯網信息辦公室、國家發展和改革委員會、科技部、工業和信息化部、國務院國有資產監督管理委員會、福建省人民政府共同主辦。

作為國家網信辦主辦的兩個國內信息化領域盛會之一,本屆數字中國峰會以“加快數字中國建設,推進中國式現代化”為主題,通過成果展示等方式,推動交流互鑒,促進開放合作,全方位展示數字中國建設最新成果。

在福建省數據要素與產業生態大會“算力賦能數字經濟發展高峰論壇”中,芯啟源創始人、董事長兼CEO盧笙受福建省大數據集團有限公司邀請,作了題為“DPU賦能AI算力網絡,助力云基礎設施生態共建”精彩演講。

同期,由上海市通信管理局、上海市浦東新區人民政府聯合主辦的“算力浦江(首屆)數字經濟發展論壇”在上海浦東召開,旨在共筑算力底座,助力數字浦東。

芯啟源作為6家AI算力芯片代表企業之一,圍繞“打造AI算力芯片應用試驗田”進行合作意向簽約,芯啟源高級副總裁姜欣代表芯啟源上臺簽約,芯啟源DPU事業部銷售總經理侯東輝在現場探討了算力網絡的發展趨勢。

ChatGPT引領“后互聯網時代革命”

盧笙在高峰論壇中回顧了中國互聯網發展史,“從2018年-2022年的“5G萬物互聯時代”到如今的“AI智能時代”,今年被認為是人工智能史詩級飛躍的一年。”

2022年11月30日,OpenAI發布人工智能對話聊天機器人ChatGPT,短短5天時間,注冊用戶數超100萬。截止2023年1月末,其月活用戶已突破1億,成為史上增長最快的消費者應用。

ChatGPT是一個由人工智能技術驅動的自然語言處理工具。自ChatGPT發布以來,谷歌、微軟爭相發布了一系列以AIGC(AI generated content)為底座的生成式AI智能應用,通過輸入人類語言生成視頻、生成圖片,AI開始嘗試創造一些深刻且令人賞心悅目的東西,這個新類別被稱為“生成式AI”。

這意味著AI正在創造新的生產內容,而不是像過去一樣僅僅只是輔助分析已經存在的東西。這些智能應用與ChatGPT一起引領了后互聯網時代數字經濟“革命”,全球開始步入AI智能時代。

后互聯網時代 算力發展見頂

進入AI算力新時代后,機器學習給我們帶來了多重挑戰。ChatGPT可以通過人類語言輸入來預測下一個單詞并生成具有嚴密邏輯的文本進行回復。而這樣的AI的能力是基于算法訓練出來,訓練的過程包括海量數據獲取和清洗、人工知識訓練和場景,AI的能力在參數規模超過特定臨界值后才出現,需要CPU/GPU提供大量算力,這些算力用參數量/浮點運算量來衡量。

以著名的AlexNet和GPT-3訓練模型為例,AI模型訓練沒有捷徑可走,因為AI的表現并非隨著模型規模增加而線性增加,而是在參數規模超過特定臨界值后開始顯著提升(如下圖所示)。

cf017654-e6a2-11ed-ab56-dac502259ad0.png

AlexNet可處理262千萬億次的浮點運算,利用CPU/GPU集群訓練出大規模圖片識別和分類能力。GPT-3用可處理323*10e21次浮點運算,用CPU/GPU集群訓練出了根據人類語言輸入來預測下一個單詞的能力。

GPT-3的訓練模型比AlexNet訓練模型的運算量提升了100萬倍。如果要達到多模態大模型訓練的臨界值,則需要極大的算力消耗,這對算力提出了前所未有的要求。而從Nvidia對2022年算力和帶寬的評估結果來看,CPU性能增速放緩,網絡帶寬增速增大,2022年帶寬增速比RBP達到30。

cf11669a-e6a2-11ed-ab56-dac502259ad0.png

AI模型訓練帶來數據大爆發,帶寬升級到200G/400G,CPU/GPU的性能增長速度無法滿足網絡數據處理的需求,大量CPU/GPU被網絡數據包處理所搶占, AI運算所需的巨量運算量無法滿足。

DPU—AI算力網絡的核心組件

在這個大背景下,利用專用協處理器將“CPU/GPU處理效率低下”的負載卸載,幫助CPU/GPU釋放算力的DPU將承擔起網絡數據通道的數據包處理需求,將CPU/GPU的算力釋放出來用于支撐起怪獸級別的AI模型訓練運算。

cf2e4d0a-e6a2-11ed-ab56-dac502259ad0.png

DPU將“CPU/GPU處理效率低下”的負載,包括“通訊協議”、“加密協議”、“網絡協議”、“數據壓縮”等全盤接受,從而將CPU芯片的算力解放出來,解決了高帶寬、低延遲、數據密集的計算場景的算力困境。

01降本增效

DPU提升了整個計算系統的效率,降低整體系統 的總體擁有成本(TCO)。

02節能減排

DPU承擔基礎設施中網絡通訊和商密相關的服務后,算力資源得到充分釋放,服務器大量減少,耗電大幅降低,機房位極大壓縮,碳排放量亦大幅下降。

03安全可控

在安全、商密等領域,打造以DPU為核心的零信任機制,使整個網絡數據處理中心實現安全可控。

“后互聯網”時代,AI云基礎設施帶來了巨大的需求和商機,DPU能滿足對“面向AI的”、“高度優化的”算力網絡的要求,被視為解決AI時代算力不足的不二之選。在協議加速、數據安全、存儲加速、虛擬化/容器加速、5G/6G邊緣計算加速等場景都有廣泛應用。

芯啟源DPU+N賦能中國數字經濟生態

盧笙在峰會中介紹,芯啟源從2019年開始研發第一代FGPA智能網卡,2020年開始推出第二代基于NP-SoC架構的產品,芯啟源DPU芯片專為解決網絡基礎設施IO性能瓶頸、幫助CPU釋放大量的算力而生。

芯啟源提供基于Chiplet架構、軟硬協同的DPU共建平臺及方案,生態共建平臺基礎是芯啟源NFP-7000系列DPU芯片,內置Risc-v處理器、多種硬件加速引擎和加解密引擎、基于可編程rFPC開放可編程接口,提供靈活可編程架構+豐富的加速硬件的芯片級軟硬協同一體化方案;

芯片基于Chiplet架構搭建開源生態共建平臺,通過Chiplet多Die互聯,從資源上仍然保持互聯同構,實現無縫、無感的橫向擴展;標準化、開源的第三方Die互聯可讓生態共建更輕松。

芯啟源提供芯片Die級和芯片級的高度集成和可被集成,包括與AI、CPU、VPU、GPU、xPU等Die的互聯,與現有ASICFPGA(e-ASIC)、CPU等芯片級的互聯,從而通過多Die的chip let組合出豐富的產品形態,滿足2*25G-2*200G多樣化端口需求,滿足大數據中心、超算中心、5G/6G邊緣計算、網絡安全等多種場景需求。

目前芯啟源DPU已經在福建省大數據集團、中國移動、天翼云、深信服、招商銀行、中國科學院、中興等客戶落地應用和開展深度合作,涉及政府、運營商、互聯網、金融、電力等領域。

同時,芯啟源深耕DPU行業,結合DPU產業生態為開發者打造了全面開放的『數據基礎設施虛擬化及加速開發平臺CODIVA』,擁抱中立標準開放互補的國產化技術生態、行業解決方案,為“數字中國”提供堅實的核心技術基礎,賦能千行百業的數字技術能力創新。

基于成熟的生態圈和CODIVA全棧能力平臺,芯啟源DPU作為集成電路產業的基礎算力網絡核心芯片,必將形成DPU+N=“新生萬業”趨勢,賦能中國數字經濟生態,助力數字中國建設。

審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    88

    文章

    35194

    瀏覽量

    280290
  • DPU
    DPU
    +關注

    關注

    0

    文章

    393

    瀏覽量

    24950
  • 芯啟源
    +關注

    關注

    1

    文章

    85

    瀏覽量

    7081
  • ChatGPT
    +關注

    關注

    29

    文章

    1590

    瀏覽量

    9129

原文標題:芯啟源DPU賦能AI算力網絡 助力云基礎設施生態共建

文章出處:【微信號:corigine,微信公眾號:芯啟源】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    軟通動力數字基礎設施2025合作伙伴大會圓滿落幕

    近日,由軟通動力聯合華為共同發起的“AI 共生?生態共贏”——軟通動力數字基礎設施2025合作伙伴大會在北京召開。人工智能、計算、信創、
    的頭像 發表于 06-30 16:28 ?438次閱讀

    曙光AI解決方案助力光大銀行數字化基礎設施升級

    作為國有股份制商業銀行,光大銀行以全力做好“五篇大文章”為目標,結合曙光AI解決方案推進數字化基礎設施升級,創新金融服務,深化科技,走出了一條具有光大特色的
    的頭像 發表于 05-12 10:46 ?407次閱讀

    智能基建:RAKsmart如何下一代AI開發工具

    當今,AI模型的復雜化與規模化對提出了前所未有的要求。然而,傳統的基礎設施在靈活性、成本
    的頭像 發表于 05-07 09:40 ?186次閱讀

    參編的《2024網信自主創新調研報告》發布

    近日,2025關鍵信息基礎設施自主安全創新論壇在北京舉辦并同期發布了《2024網信自主創新調研報告》(以下簡稱《報告》)。作為DPU
    的頭像 發表于 04-24 10:16 ?499次閱讀

    RAKsmart智能架構:異構計算+低時延網絡驅動企業AI訓練范式升級

    AI大模型參數量突破萬億、多模態應用爆發的今天,企業AI訓練正面臨效率與成本的雙重挑戰。RAKsmart推出的智能
    的頭像 發表于 04-17 09:29 ?329次閱讀

    華為SPN技術助力網絡和數聯網發展

    近期,在蘇州舉行的2025中國移動大會上,SPN(Slicing Packet Network,切片分組網)融合AI能力在多個論壇和展區亮相,成為
    的頭像 發表于 04-15 16:38 ?581次閱讀

    東軟亮相中國移動大會 攜手伙伴共建網新生態

    解決方案、AI+行業的豐富場景和實踐精彩亮相,并與中國移動等企業簽署生態伙伴合作協議 ,共同打造智能網新生態,加速AI+行業應用快速落地,
    的頭像 發表于 04-13 12:57 ?368次閱讀

    提供DPU產品與解決方案

    創立于2015年8月,是國內領先的網絡芯片及解決方案的供應商。
    的頭像 發表于 04-10 14:18 ?729次閱讀
    <b class='flag-5'>芯</b><b class='flag-5'>啟</b><b class='flag-5'>源</b>提供<b class='flag-5'>DPU</b>產品與解決方案

    圖為科技與寶德計算達成戰略合作 共建AI生態

    ,共同打造“邊端一體”的智能底座及行業大模型解決方案,為智能制造、智慧城市、智慧交通等領域提供高效、普惠的AI基礎設施支撐。 ? 強強
    的頭像 發表于 03-26 09:57 ?609次閱讀
    圖為科技與寶德計算達成戰略合作  <b class='flag-5'>共建</b><b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>新<b class='flag-5'>生態</b>

    DPU助力網絡數據安全建設

    2025開年,我國《網絡數據安全管理條例》(以下簡稱《條例》)正式開始施行。同時,國家發展改革委、國家數據局、工業和信息化部印發《國家數據基礎設施建設指引》(以下簡稱《指引》)的通知。2部國家級網絡數據安全相關法規及指引落地,全
    的頭像 發表于 02-28 17:09 ?653次閱讀

    全力助推《國家數據基礎設施建設指引》目標達成

    和安全方面的發展目標及重點方向。做為國內DPU數據基礎設施的領軍企業,將加大研發投入、加快關鍵技術攻關和重大成果轉化,攜手相關產業鏈同
    的頭像 發表于 01-09 09:28 ?632次閱讀
    <b class='flag-5'>芯</b><b class='flag-5'>啟</b><b class='flag-5'>源</b>全力助推《國家數據<b class='flag-5'>基礎設施</b>建設指引》目標達成

    2024年度精彩回顧

    ,始終以質量為本以科技為,不斷探索前沿技術,持續開拓新行業新市場,助力夯實AI基礎設施,助
    的頭像 發表于 01-02 10:47 ?1756次閱讀

    浪潮信息與智研究院攜手共建大模型多元生態

    近日,浪潮信息與北京智人工智能研究院正式簽署戰略合作協議,雙方將緊密合作,共同構建大模型多元開源創新生態。 此次合作旨在提升大模型創新研發的
    的頭像 發表于 12-31 11:49 ?608次閱讀

    成為產業發展方陣會員單位

    近日,由中國信息通信研究院(以下簡稱“信通院”)牽頭成立的產業發展方陣在合肥市成功召開第一次工作組全會,電子科技有限公司受邀參與此
    的頭像 發表于 11-04 09:34 ?613次閱讀

    IaaS+on+DPU(IoD)+下一代高性能底座技術白皮書

    DPU 是當下基礎設施的核心創新之一。如果把 CPU 比做大腦,那么 GPU 就好比是肌肉,而 DPU 就是神經中樞。CPU 承載了應
    發表于 07-24 15:32
    主站蜘蛛池模板: 爱爱帝国亚洲一区二区三区 | 国产一级特黄aaaa大片野外 | 久久久久国产一级毛片高清板 | 欧美婷婷 | 99久久国产免费中文无字幕 | 成人午夜啪啪免费网站 | 你懂的免费在线视频 | 国产在线理论片免费播放 | 大桥未久加勒比女热大陆在线 | 伦理片第一页 | 2021国产成人精品国产 | 午夜看看| 国产美女精品久久久久中文 | 欧美色爱综合 | 狠狠色综合久久婷婷 | 亚洲精品456人成在线 | 五月婷亚洲 | 天堂资源在线www中文 | 免费看欧美一级特黄a大片一 | 国产情侣自拍小视频 | 欧美日本一区 | 特级全黄一级毛片视频 | 日韩精品亚洲一级在线观看 | 大乳妇女bd视频在线观看 | 三级黄色一级视频 | 日本三级最新中文字幕电影 | 日本免费网站在线观看 | 日本三级hd高清电影 | 国产美女主播一级成人毛片 | 免费一级毛片视频 | 福利视频欧美 | 国产三级日本三级日产三级66 | 视频一区中文字幕 | ts视频在线观看 | 精品色 | 色香蕉视频 | 手机看片中文字幕 | 中出丰满大乳中文字幕 | ccav在线永久免费看 | 国产女主播在线 | 亚洲人成网站在线 |