在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AIGC加速成長,算力需求變化帶來系統級創新

Monika觀察 ? 來源:電子發燒友網 ? 作者:莫婷婷 ? 2023-05-30 01:04 ? 次閱讀

電子發燒友網報道(文/莫婷婷)隨著大模型智能水平的提升,AIGC所需要的算力也在不斷增長。根據OpenAI的研究,AI訓練所需算力指數增長,且增長速度超越硬件的摩爾定律。燧原科技創新研究院負責人、首席科學家姚建國教授認為,算力分為需求、場景,還有芯片和系統四個層次。算力需求的變化給AI芯片以及系統都帶來了一定程度的挑戰。

多家廠商發布垂直類大模型,AIGC落地場景逐漸清晰

隨著各大公司對AIGC研究的不斷深入和技術投入,國內外廠商積極推出屬于自己的類ChatGPT模型,例如華為的“盤古”,商湯的“日日新”、深蘭科技的“硅基知識”、出門問問的“序列猴子”、深信服的“安全大模型”等等大模型。這么多的大模型,若是放在兩年前,業內人士可能會頭疼于它的落地場景。

得益于ChatGPT的出現,業內人士看到了更多AIGC落地的可能性,并且推動AI行業進入AIGC時代。百度創始人、董事長兼CEO李彥宏近期公開演講時就表示,“大模型即將改變世界”。

那么,大模型究竟會如何改變世界呢?這還得從落地場景看。目前,AIGC的典型應用分為文生文、文生圖、文生視頻。近期中國市場開放一些文生文的應用越來越多,具體的應用包括對話式功能,還支持搜索和營銷的場景。

盡管國內廠商還未推出像GPT-4如此強大的通用模型,但是在垂直領域的人工智能大模型卻迎來飛躍式的發展,并且有著巨大的想象空間。正如李彥宏提到的,每一個行業都應該有屬于自己的大模型。未來技術跟業務深度融合是AIGC發展的最終方向。


算力需求變化帶來系統級創新

談及大模型對算力的需求,姚建國教授表示,AIGC智算中心可以分為三類大模型:基礎大模型、場景大模型和應用大模型。

基礎大模型通過巨大的算力生成,然后通過預訓練算力、超大訓練算力支撐,例如ChatGPT。場景大模型是在大模型基礎進行調優,通過Fine Tune算力支撐,可以適應不同場景,也就能賦能到不同行業,可以引用一些普惠訓練算力。應用大模型主要是通過推理算力,包括云端推理和端側推理。

對于芯片的需求,基礎大模型和場景大模型分別需要大算力訓練芯片和中算力訓練芯片,且對機器之間的數據互聯帶寬有較高的要求,都需要高速芯片互聯。而應用大模型只需要云端推理算力,且可以使用分布式/單機訓練和推理,是性價比較高的大模型之一。

算力肉眼可見地不斷增長,燧原科技姚建國教授在公開演講時也提到了一組數據:從2012年到2018年,訓練AI算力增長了30萬倍,摩爾定律相同時間通用算力只有7倍的增長。從這里可以看出AIGC對算力需求之高。

算力需求變化帶來了三大問題,一是存/算性能失配,內存墻導致訪存時延高、效率低;二是馮諾依曼架構下,功耗墻導致傳輸能耗損失;三是滿足大模型需求,性能墻導致算力無法滿足。姚建國教授表示,未來不僅僅是單核芯片去解決算力問題,一定會是通過一個系統級解決方案去實現整個算力適應變化。

目前,單獨的服務器、集群難以解決大模型的預訓練,因此需要有大算力加速,比如說H100提供了Transformer引擎;此外還有機密計算、COP互聯加速、CXL協議等等各方面的創新。業內人士普遍認為,系統級創新會是未來的發展趨勢

對于大模型未來的發展趨勢,IDC中國首席分析師武連峰認為,AI大模型應用深化,從專屬AI到通用AI,會是趨勢之一。當然,最終實現通用AI的道路還有很長。






聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AIGC
    +關注

    關注

    1

    文章

    367

    瀏覽量

    1621
收藏 人收藏

    評論

    相關推薦

    AIGC入門及鴻蒙入門

    人工智能生成內容(AIGC)和鴻蒙系統是當前科技領域的兩個熱門話題。以下是對它們的入門指南: AIGC入門 1. 基礎概念: AIGC,全稱Artificial Intelligenc
    發表于 01-13 10:32

    GPU開發平臺是什么

    隨著AI技術的廣泛應用,需求呈現出爆發式增長。AI租賃作為一種新興的服務模式,正逐漸成為企業獲取
    的頭像 發表于 10-31 10:31 ?273次閱讀

    芯片 高性能 CPU/GPU/NPU 微架構分析》第1-4章閱讀心得——之巔:從基準測試到CPU微架構的深度探索

    ,還優化了能效比,使天河二號在Green500榜單上也表現出色。另一方面,MLPerf的出現標志著AI時代對需求變化。它涵蓋了圖像分類、目標檢測、自然語言理解、智能推薦算法、強化
    發表于 10-19 01:21

    OCTC發布"工廠"!力促智中心高效規劃建設投運

    創新提出面向未來數據中心的"工廠"模式,核心是以規(劃)、建(設)、運(營)一體化的交鑰匙工程,實現智中心快速投運、綠色低碳,在當前AIGC
    的頭像 發表于 10-11 09:10 ?568次閱讀
    OCTC發布&quot;<b class='flag-5'>算</b><b class='flag-5'>力</b>工廠&quot;!力促智<b class='flag-5'>算</b>中心高效規劃建設投運

    中國大會召開,業界首個高質量評估體系發布

    首次完整地構建了人工智能時代高質量的理論體系,并探索性提出業界首個 "五位一體"的高質量評估體系。 發布現場 在當前由大模型和AIGC
    的頭像 發表于 09-28 16:50 ?301次閱讀
    中國<b class='flag-5'>算</b><b class='flag-5'>力</b>大會召開,業界首個<b class='flag-5'>算</b><b class='flag-5'>力</b>高質量評估體系發布

    大模型時代的需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型的,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發表于 08-20 09:04

    商湯大裝置服務獲國家認證

    商湯大裝置服務獲國家認證! 近日,經過中國電子技術標準化研究院專家審核,商湯科技通過服務能力成熟度(CPMM)增強
    的頭像 發表于 06-22 10:59 ?672次閱讀

    萬卡集群解決大模型訓需求,建設面臨哪些挑戰

    解決大模型訓練對需求的巨大增長問題,尤其是現在模型參數量從百億、千億邁向萬億。 ? 國
    的頭像 發表于 06-02 06:18 ?4929次閱讀
    萬卡集群解決大模型訓<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>,建設面臨哪些挑戰

    云耀 X 實例:下一代柔性新物種,雙倍性能加速體驗

    (以下簡稱:云耀 X 實例),以創新的柔性技術,為高科技、零售、金融、游戲等行業帶來前所未有的躍體驗。 云耀 X 實例的推出,標志著云
    的頭像 發表于 05-22 19:36 ?466次閱讀
    云耀 X 實例:下一代柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新物種,雙倍性能<b class='flag-5'>加速</b>躍<b class='flag-5'>級</b>體驗

    摩爾線程張建中:以國產助力數智世界,滿足大模型需求

    摩爾線程創始人兼CEO張建中在會上透露,為了滿足國內對AI的迫切需求,他們正在積極尋求與國內頂尖科研機構的深度合作,共同推動更大規模的AI智集群項目。
    的頭像 發表于 05-10 16:36 ?1039次閱讀

    AIGC需求革命,邊緣計算將不再“邊緣”

    AI瓶頸下邊緣計算崛起
    的頭像 發表于 04-22 14:51 ?415次閱讀

    未來已來!華為云耀 X 實例:應用驅動,業務創新加速

    產品——云耀云服務器 X 實例,以其創新的柔性和強大的性能優勢引領著云計算的新時代。 技術創新,助力企業加速轉型升級 云耀云服務器 X
    的頭像 發表于 04-11 22:22 ?1183次閱讀
    未來已來!華為云耀 X 實例:應用驅動<b class='flag-5'>算</b><b class='flag-5'>力</b>,業務<b class='flag-5'>創新</b><b class='flag-5'>加速</b>

    隨著AI需求不斷增強,800G光模塊的需求不斷增大

    在人工智能芯片(AIGC)和不斷發展的背景下,光模塊產業正在迎來快速發展的時期。隨著光模塊朝著更高速率的技術發展,硅光技術的成本也在逐步降低,同時降低功耗也成為市場需求的重要方面。
    的頭像 發表于 04-11 10:54 ?678次閱讀
    隨著AI<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>不斷增強,800G光模塊的<b class='flag-5'>需求</b>不斷增大

    能RADXA微服務器試用體驗】Radxa Fogwise 1684X Mini 規格

    ChatGLM2-6B、AIGC、Llama2、SAM、Whisper等超大參數模型 還有一份詳細的英文的規格表: 另外,能RADXA微服務器服務器,還是大學生集成電路創新創業大賽之# 第八屆集創賽杯賽題目
    發表于 02-28 11:21
    主站蜘蛛池模板: bt天堂网在线 | 黄色日本网站 | 久久久久国产 | 天天操天天艹 | 最近最新中文字幕在线第一页 | 你懂的在线免费 | 天天摸天天碰色综合网 | 亚洲韩国欧美一区二区三区 | 四虎永久免费网站 | 亚洲人成网站色在线观看 | 阿v视频在线观看免费播放 爱爱视频天天干 | 五月情视频在线观看 | 狠狠操狠狠干 | 黄色片视频网 | 狠狠婷婷| 黄色a网站 | 91大神成人偷拍在线观看 | 超级乱淫片67194免费看 | 人人看人人做人人爱精品 | 亚洲一区二区三区首页 | 国产一级又色又爽又黄大片 | 欧美另类高清xxxxx | 久久天天躁夜夜躁狠狠85台湾 | 日本免费的一级绿象 | 免费可以看黄的视频 s色 | 与子乱刺激对白在线播放 | 777奇米四色米奇影院在线播放 | 国产三级国产精品 | 国产午夜精品视频 | 九九国产在线 | 成人一二 | 新天堂在线| 国产精品毛片在线大全 | 天天艹| 亚洲日本视频在线观看 | 夜夜操天天操 | 欧美在线一级视频 | 欧美性狂猛bbbbbxxxxx | 日本一区二区高清免费不卡 | 青草青青视频 | 天天做.天天爱.天天综合网 |