浪潮信息近日發布了一款全新的開源大模型——“源2.0-M32”。這款大模型在“源2.0”系列大模型的基礎上,進行了深度的技術創新與升級。
其核心技術亮點在于“基于注意力機制的門控網絡”技術的引入。通過這一技術,浪潮信息成功構建了一個包含32個專家的混合專家模型(MoE),該模型不僅結構先進,而且算力效率極高。在運行時,模型的激活參數僅為37億,這一數字在業界中堪稱領先。
更為值得一提的是,“源2.0-M32”在性能上全面對標了擁有700億參數的LLaMA3開源大模型。在業界主流基準評測中,它展現出了卓越的性能,為用戶提供了更為高效、精準的服務。
此次“源2.0-M32”的發布,無疑將進一步推動人工智能領域的發展,同時也彰顯了浪潮信息在技術創新方面的領先地位。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
浪潮
+關注
關注
1文章
474瀏覽量
24369 -
開源
+關注
關注
3文章
3533瀏覽量
43306 -
大模型
+關注
關注
2文章
2941瀏覽量
3685
發布評論請先 登錄
相關推薦
浪潮信息與智源研究院攜手共建大模型多元算力生態
近日,浪潮信息與北京智源人工智能研究院正式簽署戰略合作協議,雙方將緊密合作,共同構建大模型多元算力開源創新生態。 此次合作旨在提升大模型創新
浪潮信息與智源研究院達成戰略合作協議
近日,浪潮信息與智源研究院達成戰略合作協議,雙方將緊密協作共建大模型多元算力開源創新生態,提升大模型創新研發的算力效率,降低大
浪潮信息發布"源"Yuan-EB,刷新RAG檢索最高成績
近日,浪潮信息在AI領域取得了重大突破,成功發布了其嵌入模型"源"Yuan-EB(Yuan-embedding-1.0)。在備受矚目的C-MTEB榜單中,"
浪潮信息發布“源”Yuan-EB助力RAG檢索精度新高
近日,浪潮信息發布 “源”Yuan-EB(Yuan-embedding-1.0,嵌入模型),在C-MTEB榜單中斬獲檢索任務第一名,以78.41的平均精度刷新大

浪潮信息發布KOS AI定制版,大幅提升大模型訓練效率
浪潮信息近期推出了“元腦服務器操作系統KOS AI定制版”,為人工智能領域帶來了革命性的變化。這款定制版操作系統通過簡單的兩步操作,即可實現大模型訓練環境的快速部署。
浪潮信息源2.0大模型與百度PaddleNLP全面適配
近日,浪潮信息宣布其開源大模型源2.0已全面適配百度PaddleNLP。這一舉措標志著大模型開發
浪潮信息:元腦企智EPAI助力金融大模型快速落地
近日,2024金融科技應用創新發展大會暨農村金融機構信息化發展創新座談會在上海舉辦。浪潮信息推出元腦企智EPAI企業大模型開發平臺,面向金融業務場景,實現7天完成POC驗證、2個月上線AI應用,通過

源2.0-M32大模型發布量化版 運行顯存僅需23GB 性能可媲美LLaMA3
北京2024年8月23日?/美通社/ -- 近日,浪潮信息發布源2.0-M32大模型4bit和8bit量化版,性能比肩700億參數的LLaM

浪潮信息推出AIGC存儲解決方案
近日,在科技創新的浪潮中,浪潮信息成功舉辦了“元腦中國行”全國巡展的杭州站活動,此次盛會不僅匯聚了業界的精英與目光,更見證了浪潮信息在AIGC(人工智能生成內容)領域的一次重大突破。會上,浪潮
畢昇大模型應用開發平臺+浪潮信息AIStation,讓大模型定制更簡單
北京2024年6月5日?/美通社/ -- 近日,畢昇大模型應用開發平臺與浪潮信息AIStation智能業務生產創新平臺完成兼容性互認證。基于畢昇和浪潮信息AIStation,用戶通過預置的畢昇助手

浪潮信息發布AS13000G7-N系列分布式全閃存儲
浪潮信息近日推出了專為大型AI模型優化的AS13000G7-N系列分布式全閃存儲。該系列基于浪潮信息自研的分布式文件系統,結合新一代數據加速引擎DataTurbo,為用戶提供卓越的存儲解決方案。
為大模型專門優化 浪潮信息發布分布式全閃存儲AS13000G7-N系列
北京2024年5月10日?/美通社/ -- 近日,浪潮信息發布為大模型專門優化的分布式全閃存儲AS13000G7-N系列。該系列依托浪潮信息自研分布式文件系統,搭載新一代數據加速引擎

浪潮信息發布為大模型專門優化的分布式全閃存儲AS13000G7-N系列
近日,浪潮信息發布為大模型專門優化的分布式全閃存儲AS13000G7-N系列。該系列依托浪潮信息自研分布式文件系統,搭載新一代數據加速引擎DataTurbo,

評論