在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

從訓練到推理,AI 大模型發展有哪五大趨勢?IDC專家最新解讀

章鷹觀察 ? 來源:電子發燒友原創 ? 作者:章鷹 ? 2024-04-17 16:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

2024年兩會召開后,兩會報告把加快發展新質生產力列為十大任務舉措之首。新質生產力的核心是用新技術促進產業高端化、智能化和綠色化。ICT產業是發展新質生產力的核心支撐要求,ICT產業正在進入AI無處不在的大轉型階段。

縱觀全球,2024年中國GDP增長預期5%,全球平均增長率達到2.6%,美國預期增長2%,印度最為樂觀預期今年的GDP增長達到6.2%。從科教興國的戰略看,新質生產力主要涉及的是數字中國的底層基礎技術,AI 無處不在,從2022年,ChateGPT3.5發布以來,全球掀起了生成式AI 的熱潮。到了2024年,大家都在考慮生成式AI到底給企業帶來了哪些價值。

IDC最新的調研顯示,28%的受訪者標識在過去投資了生成是AI不到一年時間就看到了投資回報,每投資1美元,平均可以獲得3.5倍的投資回報,投資回報率最高的用例是自動化IT任務,達到46.5%,也有高達27.1%受訪者選擇產品與服務創新。AI大模型在使用當中,實際應用開發過程中,開源大模型和商業化模型同時并存,開發者更加傾向于使用開源模型。而且IDC調研顯示,數據倉庫作為生成是AI 的數據平臺發揮著主導作用。

生成式AI支出在全球和中國有什么差異?2024年AI大模型將呈現哪些新的發展趨勢?全球AI基礎設施市場規模預測?4月16日,在IDC的ICT產業趨勢峰會上,來自IDC中國區副總裁兼首席分析師武連和IDC中國區副總裁鐘振山做了詳細的解讀。

生成式AI在全球和中國高速增長

IDC中國區副總裁兼首席分析師武連峰表示,IDC預測,2024年全球生成式AI支出將會達到387.9億美元,占整體AI比例為16.7%,未來到2027年,生成式AI的全球支持將達到1454.2億美元,年復合增長率會達到55.3%。2024年,中國生成式AI支出將達到35.3億美元,占整體AI比例達到16%,未來到2027年中國生成式AI支出預測將達到129.3億美元。



武連峰指出,整體ICT市場從以增量市場為主轉向以存量市場為主,存量市場是小幅度增長的特征,其中企業移動軟件、IoT連接、可穿戴設備、移動數據服務增長率在10%以下,增量市場主要包括AI平臺、機器人相關的OT服務、AI相關的商業服務等,增長率達到18%到40%之間。

AI大模型未來發展五大趨勢


IDC中國區副總裁鐘振山表示,2024年AI大模型發展呈現五大趨勢。一、中國基礎大模型數量趨于收斂,2024年將卷向產業。去年發布的國內大通用大模型發布達到百款,今年我們調研發現更多面向行業或者場景的大模型出現,關注大模型在行業或者企業應用場景的落地,比如網易有道的子曰、好未來的MathGPT、孩子王的KidsGPT面向教育行業,螞蟻集團推出貞儀、百靈面向金融,還有中科聞歌的雅意大模型面向媒體行業,京東的言犀ChatJD模型面向商業應用場景,加速AI大模型在行業場景的落地。

AI大模型趨勢二、開源和閉源共存,共同促進大模型應用生態走向繁榮。鐘振山表示,更多企業選擇開源的AI大模型來構建自身的應用,現有的開源模型參數大多數是十億到千億之間,基于MoE架構的稀疏大模型參數可以達到萬億參數,微調和多種計算資源并行技術變得十分重要。他強調,AI 進入一個變革期,大家關注三個方向:第一、如何快速部署和開發模型;第二、大模型的壓縮量化蒸餾;第三、如何搭建一套有效的開源生態,以及不同CPU、GPU和XPU的分配。

AI大模型趨勢三、大模型向端側轉移,AI推理引起廣泛關注。蘋果計劃推出更智能的Siri, 為端側大模型生態做積極準備,國內手機廠商華為、小米、Vivo、OPPO和榮耀都推出了手機端大模型,華為手機適配盤古大模型,小米推出MiLM大模型,Vivo適配藍心大模型,OPPO和榮耀分別推出了安第斯大模型和魔方大模型。AI推理將在手機、PC、耳機、音箱、XR、汽車,以及其他可穿戴新型終端上運行。

鐘振山分析說,端側大模型帶來三大優勢:1、本地數據處理效率更高,節省云端服務器帶寬和算力成本;2、對用戶數據可以形成更好的隱私保護;3、端側大模型可以帶來更多交互方式和新體驗。

AI大模型趨勢四、多模態發展可能會促進市場出現殺手級應用。現在生成式AI 主要在文本、視頻、圖像、音頻領域應用。GPT是基于自然語言技術,對話聊天機器人已經普遍出現,現場他也介紹一家公司通過訓練AI垂類模型,初步實現文字生成劇本+漫畫+動態視頻。

AI大模型趨勢五、新一代AI基礎設施可能成為下一個戰場。新架構主要指靈活調配CPU和GPU資源,邊緣計算將云服務擴展到遠程,私有云解決數據和運營的合規性問題,高性能主要針對高性能計算和人工智能優化的計算和存儲服務,多云集成促進管理和安全的工具,深化合作伙伴關系,主要與行業用戶、基礎設施提供商和ISV搭建橋梁。

鐘振山指出,AI主要用于訓練和推理,從訓練看,還是云上和本地部署為主的投資方式,推理市場主要是云上算力為主,但是本地、邊緣層面都有大量推理算力的需求。推理市場需要一種面向AI工作負載的混合架構模式。

未來隨著生成式AI和大模型在企業內部落地之后,在推理方面的需求會大于訓練的需求。面向AI的基礎架構,包括高性能處理器、下一代存儲、超融合系統、高性能AI網絡,甚至精密計算、數據中心技術,未來的量子計算都可能成為AI基礎架構市場的基石。IDC預測,到2027年,用于邊緣推理的AI服務器價值將超過用于本地推理的服務器價值。

本文由電子發燒友原創,轉載請注明以上來源。微信號zy1052625525。需入群交流,請添加微信elecfans999,投稿爆料采訪需求,請發郵箱zhangying@huaqiu.com。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • IDC
    IDC
    +關注

    關注

    4

    文章

    408

    瀏覽量

    37629
  • 文心一言
    +關注

    關注

    0

    文章

    133

    瀏覽量

    1823
  • 大模型
    +關注

    關注

    2

    文章

    3114

    瀏覽量

    4026
  • 生成式AI
    +關注

    關注

    0

    文章

    531

    瀏覽量

    782
  • 新質生產力
    +關注

    關注

    0

    文章

    85

    瀏覽量

    342
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

    科正將AI能力體系化并賦能終端生態。 大會上,聯發科定義了“智能體化用戶體驗”的五大特征:主動及時、知你懂你、互動協作、學習進化和專屬隱私信息守護。這五大特征需要跨越芯片、
    發表于 04-13 19:52

    谷歌第七代TPU Ironwood深度解讀AI推理時代的硬件革命

    谷歌第七代TPU Ironwood深度解讀AI推理時代的硬件革命 Google 發布了 Ironwood,這是其第七代張量處理單元 (TPU),專為推理而設計。這款功能強大的
    的頭像 發表于 04-12 11:10 ?1766次閱讀
    谷歌第七代TPU Ironwood深度<b class='flag-5'>解讀</b>:<b class='flag-5'>AI</b><b class='flag-5'>推理</b>時代的硬件革命

    英偉達Cosmos-Reason1 模型深度解讀

    。以下技術架構、訓練策略、核心能力及行業影響四方面展開深度解讀: Cosmos-Reason 1:物理 AI 常識到具體決策 物理
    的頭像 發表于 03-29 23:29 ?1915次閱讀

    陣列云訓練到推理

    在云場景下,陣列云(分布式計算集群)模型訓練到推理的完整技術流程可結構化分解如下: 一、訓練階段技術實現 1,資源動態編排? 基于Kube
    的頭像 發表于 03-28 08:32 ?315次閱讀

    訓練好的ai模型導入cubemx不成功怎么處理?

    訓練好的ai模型導入cubemx不成功咋辦,試了好幾個模型壓縮了也不行,ram占用過大,有無解決方案?
    發表于 03-11 07:18

    讓大模型訓練更高效,奇異摩爾用互聯創新方案定義下一代AI計算

    訓練成本,使得企業能夠以低成本實現高性能AI模型訓練;在推理端,DeepSeek加速了AI
    的頭像 發表于 02-18 09:19 ?1300次閱讀
    讓大<b class='flag-5'>模型</b><b class='flag-5'>訓練</b>更高效,奇異摩爾用互聯創新方案定義下一代<b class='flag-5'>AI</b>計算

    戴爾副總裁揭示:智能邊緣發展五大定義趨勢

    副總裁Pierluca Chiodelli向我們揭示了2025年決定邊緣人工智能發展五大關鍵技術趨勢“指令執行”到“自主行動” 首先,是向代理
    的頭像 發表于 02-12 10:01 ?829次閱讀

    AI開發平臺模型怎么用

    AI開發平臺極大地簡化了AI應用的開發流程,環境搭建、模型訓練到部署集成,每一步都提供了豐富的工具和資源。那么,
    的頭像 發表于 02-11 09:53 ?326次閱讀

    德州儀器分析服務器電源設計中的五大趨勢

    服務器電源設計中的五大趨勢: 功率預算、冗余、效率、工作溫度 以及通信和控制 并分析預測 服務器 PSU 的未來發展趨勢
    的頭像 發表于 01-11 10:15 ?1534次閱讀
    德州儀器分析服務器電源設計中的<b class='flag-5'>五大趨勢</b>

    GPU是如何訓練AI模型

    AI模型訓練過程中,大量的計算工作集中在矩陣乘法、向量加法和激活函數等運算上。這些運算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU是如何
    的頭像 發表于 12-19 17:54 ?714次閱讀

    AI云平臺的未來趨勢發展方向

    AI云平臺通過提供高效的數據處理、模型訓練、推理服務以及便捷的開發工具,極大地降低了企業應用AI的門檻,加速了
    的頭像 發表于 12-02 17:34 ?857次閱讀

    FPGA和ASIC在大模型推理加速中的應用

    隨著現在AI的快速發展,使用FPGA和ASIC進行推理加速的研究也越來越多,目前的市場來說,有些公司已經了專門做
    的頭像 發表于 10-29 14:12 ?1930次閱讀
    FPGA和ASIC在大<b class='flag-5'>模型</b><b class='flag-5'>推理</b>加速中的應用

    未來AI模型發展趨勢

    未來AI模型發展趨勢將呈現多元化和深入化的特點,以下是對其發展趨勢的分析: 一、技術驅動與創新 算法與架構優化 : 隨著Transformer架構的廣泛應用,
    的頭像 發表于 10-23 15:06 ?1909次閱讀

    摩爾線程攜手東華軟件完成AI模型推理測試與適配

    Agent平臺。該平臺集成了摩爾線程提供了軟硬一體化、訓練到部署的系統級解決方案,涵蓋自研大語言模型MUSAChat、推理引擎MT Transformer以及大
    的頭像 發表于 07-31 10:51 ?1907次閱讀

    ai模型訓練方法哪些?

    AI模型訓練方法是一個復雜且不斷發展的領域。以下是ai模型
    的頭像 發表于 07-16 10:11 ?3119次閱讀
    主站蜘蛛池模板: 亚洲伊人成综合成人网 | www.五月婷婷.com | 5151hh四虎国产精品 | 久久精品波多野结衣 | 欧美成人全部免费观看1314色 | 四虎国产精品永久在线播放 | 俺去啦五月| 一区二区在线观看高清 | 天天摸天天碰成人免费视频 | 黄色片不卡 | 久久国产高清字幕中文 | 美女张开大腿让男人桶 | 激情综合网婷婷 | 黄色美女网站免费 | 天天做天天做天天综合网 | 欧洲精品不卡1卡2卡三卡四卡 | 成年视频在线观看 | 精品国产理论在线观看不卡 | 老色皮永久免费网站 | 国产呦在线观看视频 | 我要色综合网 | 国产成人mv在线观看入口视频 | 久久久久久久综合色一本 | 天堂8资源在线官网资源 | 亚洲黄色网址在线观看 | 婷婷97狠狠的狠狠的爱 | 黄色网在线看 | 天天做夜夜爽 | 一级黄色毛片播放 | 黄色在线视频免费 | 亚洲六月丁香六月婷婷花 | 欧美色图日韩 | 狠狠干综合 | 天天干天天草天天射 | 一区二区三区福利 | 天堂资源在线www中文 | 国产最好的精华液网站 | 91寡妇天天综合久久影院 | 黄免费看| 黄色福利小视频 | 欧美成人xxxx |