浪潮信息近日發布了一款全新的開源大模型——“源2.0-M32”。這款大模型在“源2.0”系列大模型的基礎上,進行了深度的技術創新與升級。
其核心技術亮點在于“基于注意力機制的門控網絡”技術的引入。通過這一技術,浪潮信息成功構建了一個包含32個專家的混合專家模型(MoE),該模型不僅結構先進,而且算力效率極高。在運行時,模型的激活參數僅為37億,這一數字在業界中堪稱領先。
更為值得一提的是,“源2.0-M32”在性能上全面對標了擁有700億參數的LLaMA3開源大模型。在業界主流基準評測中,它展現出了卓越的性能,為用戶提供了更為高效、精準的服務。
此次“源2.0-M32”的發布,無疑將進一步推動人工智能領域的發展,同時也彰顯了浪潮信息在技術創新方面的領先地位。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
浪潮
+關注
關注
1文章
475瀏覽量
24654 -
開源
+關注
關注
3文章
3665瀏覽量
43765 -
大模型
+關注
關注
2文章
3119瀏覽量
4032
發布評論請先 登錄
相關推薦
熱點推薦
浪潮信息發布元腦R1推理服務器
近日,浪潮信息正式推出了其創新的元腦R1推理服務器。這款服務器通過系統的創新與軟硬件的協同優化,實現了對DeepSeek R1 671B模型的單機部署與運行,為客戶在智能應用部署方面帶來了顯著的突破
浪潮信息與智源研究院攜手共建大模型多元算力生態
近日,浪潮信息與北京智源人工智能研究院正式簽署戰略合作協議,雙方將緊密合作,共同構建大模型多元算力開源創新生態。 此次合作旨在提升大模型創新
浪潮信息與智源研究院達成戰略合作協議
近日,浪潮信息與智源研究院達成戰略合作協議,雙方將緊密協作共建大模型多元算力開源創新生態,提升大模型創新研發的算力效率,降低大
浪潮信息發布"源"Yuan-EB,刷新RAG檢索最高成績
近日,浪潮信息在AI領域取得了重大突破,成功發布了其嵌入模型"源"Yuan-EB(Yuan-embedding-1.0)。在備受矚目的C-MTEB榜單中,"
借助浪潮信息元腦企智EPAI高效創建大模型RAG
生成能力,提高生成質量和可靠性。但企業構建知識檢索系統并非易事,通常面臨開發門檻高、生成內容差等難題。而借助浪潮信息元腦企智EPAI企業大模型開發平臺,企業僅需三步即可高效創建大模型RAG,讓企業內部積累的大量數據得到有效利用,

浪潮信息發布“源”Yuan-EB助力RAG檢索精度新高
近日,浪潮信息發布 “源”Yuan-EB(Yuan-embedding-1.0,嵌入模型),在C-MTEB榜單中斬獲檢索任務第一名,以78.41的平均精度刷新大

浪潮信息發布KOS AI定制版,大幅提升大模型訓練效率
浪潮信息近期推出了“元腦服務器操作系統KOS AI定制版”,為人工智能領域帶來了革命性的變化。這款定制版操作系統通過簡單的兩步操作,即可實現大模型訓練環境的快速部署。
浪潮信息AI存儲性能測試的領先之道
MLCommons,一個致力于推動全球 AI系統發展的頂級工程聯盟,匯聚了包括谷歌、斯坦福大學在內的眾多頂尖企業和研究機構。作為該聯盟的創始成員之一,浪潮信息自2020年起便積極參與其中,共同探索

浪潮信息源2.0大模型與百度PaddleNLP全面適配
近日,浪潮信息宣布其開源大模型源2.0已全面適配百度PaddleNLP。這一舉措標志著大模型開發
浪潮信息發布元腦企智一體機
在2024中國算力大會上,浪潮信息正式發布了其創新的元腦企智一體機。這款一體機融合了元腦企智EPAI企業大模型開放平臺和元腦服務器,通過軟硬件協同的一體化設計,實現了快速交付、開箱即用、極致性能和安全高效的大
浪潮信息:元腦企智EPAI助力金融大模型快速落地
近日,2024金融科技應用創新發展大會暨農村金融機構信息化發展創新座談會在上海舉辦。浪潮信息推出元腦企智EPAI企業大模型開發平臺,面向金融業務場景,實現7天完成POC驗證、2個月上線AI應用,通過

源2.0-M32大模型發布量化版 運行顯存僅需23GB 性能可媲美LLaMA3
北京2024年8月23日?/美通社/ -- 近日,浪潮信息發布源2.0-M32大模型4bit和8bit量化版,性能比肩700億參數的LLaM

浪潮信息趙帥:開放計算創新 應對Scaling Law挑戰
北京2024年8月15日?/美通社/ -- 日前在2024開放計算中國峰會上,浪潮信息服務器產品線總經理趙帥表示,智能時代,開源模型和開放計算激發了人工智能產業生態的創新活力,面對大模型

33家元腦區域伙伴與浪潮信息簽署戰略合作協議
近日,2024年浪潮信息區域ISP伙伴戰略簽約儀式圓滿落幕,標志著浪潮信息在人工智能領域的合作版圖再度擴大。此次盛會匯聚了全國范圍內33家實力雄厚的億級及千萬級元腦區域伙伴,共同簽署戰略合作協議,攜手開啟AI應用新篇章。
浪潮信息發布AIStation V5,全面支持大模型開發流程與高效算力調度
北京2024年7月11日?/美通社/ -- 7月9日,在"元腦中國行"全國巡展濟南站上,浪潮信息發布AIStation 人工智能開發平臺V5升級版,具備全面的大模型流程支持能力,幫助企業用戶降低構建

評論