在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

浪潮信息發布大模型智算軟件棧OGAI,為大模型創新打造高效生產力

全球TMT ? 來源:全球TMT ? 作者:全球TMT ? 2023-08-28 08:08 ? 次閱讀

浪潮信息正式發布大模型智算軟件棧 OGAI。OGAI (Open GenAI Infra)"元腦生智",是為大模型業務提供AI算力系統環境部署、算力調度保障及模型開發管理能力的全棧全流程的智算軟件棧。OGAI由浪潮信息基于大模型自身實踐與服務客戶的專業經驗而開發,旨在為大模型研發與應用創新全力打造高效生產力,加速生成式AI產業創新步伐。

大模型是當前通用人工智能產業發展創新的核心技術。目前國內已發布的生成式AI模型超過了100個,"百模爭秀"的格局初現。但大模型從研發到應用的各環節中,依然面臨諸多挑戰,如大模型算力的系統全棧問題、兼容適配問題、性能優化問題等。

OGAI是浪潮信息從當前大模型算力建設、模型開發和應用落地的實際需求出發,秉承全棧全流程、算力充分釋放、實戰驗證提煉的設計原則打造而成。OGAI由5層架構組成,從L0到L4分別對應基礎設施層的智算中心OS、系統環境層的PODsys、調度平臺層的AIStation、模型工具層的YLink和多模納管層的MModel。

L0層智算中心OS:面向大模型算力服務的智能算力運管平臺,滿足多租戶以裸金屬為主的彈性AI算力運管需求。其中,高效的裸金屬服務支持分鐘級部署上千規模裸金屬節點并按需進行彈性擴展,實現異構計算芯片、IB、RoCE高速網絡、高性能存儲等環境一鍵獲取,并實現計算、網絡、數據隔離以保障業務安全。

L1層PODsys:開源、高效、兼容、易用的智算集群系統環境部署方案。聚焦智算集群部署場景,從OS、驅動到系統監控可視化、資源調度等集群系統環境要素全面覆蓋,選用最穩定和廣泛兼容的軟件版本,通過一系列腳本工具簡化部署過程,縮短算力上線周期,并可向企業用戶提供實施安裝服務和集群性能校準的專家服務。

L2層AIStation:面向大模型開發的商業化人工智能算力調度平臺。針對大模型訓練中常見的訓練中斷難題,可實現訓練異常快速定位,斷點自動續訓:通過快速定位芯片、網卡、通訊設備異常或故障,實現全局訓練暫停保持,熱備算力自動彈性替換,健康節點快速CheckPoint讀取,實現斷點自動續訓。

L3層YLink:面向大模型數據治理、預訓練、微調的高效工具鏈。聚焦于大模型的數據治理、預訓練、微調等開發過程,集成了浪潮信息在大模型研發中的自研工具和開源工具,如數據處理工具包(Y-DataKit)、大模型訓練工具包(Y-TrainKit)和大模型微調工具包(Y-FTKit)等等,通過這些多樣且完善的工程化、自動化工具,加速大模型的訓練和開發效率。

L4層MModel:提供多模型接入、服務、評測等功能的納管平臺。核心組件包括數據集管理、模型納管和評測,可以方便開發者和研究人員更好地管理多版本、多類型的基礎大模型與任務模型,并通過多樣化的評測數據集與評測任務,對多個模型進行生成準確率、推理延遲、推理穩定性等指標進行全面評估。

浪潮信息高級副總裁、AI&HPC總經理劉軍表示:"OGAI提供完善的工程化、自動化工具軟件堆棧,將幫助更多企業順利跨越大模型研發應用門檻,充分釋放大模型創新生產力。浪潮信息將通過智算系統軟硬件高度協同進行持續創新,持續培育繁榮元腦生態,推動實現‘助百模,智千行',加速生成式AI產業創新。"

審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 浪潮
    +關注

    關注

    1

    文章

    474

    瀏覽量

    24509
  • AI
    AI
    +關注

    關注

    87

    文章

    34311

    瀏覽量

    275493
  • 大模型
    +關注

    關注

    2

    文章

    3034

    瀏覽量

    3839
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    浪潮信息發布元腦R1推理服務器

    近日,浪潮信息正式推出了其創新的元腦R1推理服務器。這款服務器通過系統的創新與軟硬件的協同優化,實現了對DeepSeek R1 671B模型的單機部署與運行,
    的頭像 發表于 02-17 10:32 ?643次閱讀

    軟通動力天元智接入DeepSeek系列模型

    近日,軟通動力天元智模型網關迎來重磅升級,正式接入DeepSeek系列模型企業生產力提升帶來全新助力。
    的頭像 發表于 02-10 09:44 ?430次閱讀

    浪潮信息與實驗室合作部署42kW風冷

    近日,浪潮信息與某知名實驗室攜手簽署了合作協議,共同推進AI for Science領域的科研創新。根據協議內容,雙方將采用先進的42kW智風冷
    的頭像 發表于 01-09 14:18 ?409次閱讀

    浪潮信息與智源研究院攜手共建大模型多元生態

    近日,浪潮信息與北京智源人工智能研究院正式簽署戰略合作協議,雙方將緊密合作,共同構建大模型多元開源創新生態。 此次合作旨在提升大
    的頭像 發表于 12-31 11:49 ?542次閱讀

    浪潮信息與智源研究院達成戰略合作協議

    近日,浪潮信息與智源研究院達成戰略合作協議,雙方將緊密協作共建大模型多元開源創新生態,提升大模型
    的頭像 發表于 12-26 10:25 ?501次閱讀

    借助浪潮信息元腦企智EPAI高效創建大模型RAG

    生成能力,提高生成質量和可靠性。但企業構建知識檢索系統并非易事,通常面臨開發門檻高、生成內容差等難題。而借助浪潮信息元腦企智EPAI企業大模型開發平臺,企業僅需三步即可高效創建大模型R
    的頭像 發表于 12-19 14:32 ?637次閱讀
    借助<b class='flag-5'>浪潮信息</b>元腦企智EPAI<b class='flag-5'>高效</b>創建大<b class='flag-5'>模型</b>RAG

    浪潮信息源2.0大模型與百度PaddleNLP全面適配

    近日,浪潮信息宣布其開源大模型源2.0已全面適配百度PaddleNLP。這一舉措標志著大模型開發生態正加速進化,用戶提供了更加便捷、高效
    的頭像 發表于 10-17 18:15 ?898次閱讀

    浪潮信息發布元腦企智一體機

    在2024中國大會上,浪潮信息正式發布了其創新的元腦企智一體機。這款一體機融合了元腦企智EPAI企業大
    的頭像 發表于 09-30 16:50 ?1857次閱讀

    浪潮信息:元腦企智EPAI助力金融大模型快速落地

    浪潮信息在AI底座建設、大模型開發領域積累的成熟、成功經驗工具化,助力金融機構又快、又穩地部署生成式AI應用,助力金融數智化跨越式發展。
    的頭像 發表于 09-20 16:07 ?643次閱讀
    <b class='flag-5'>浪潮信息</b>:元腦企智EPAI助力金融大<b class='flag-5'>模型</b>快速落地

    模型時代的需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問
    發表于 08-20 09:04

    浪潮信息趙帥:開放計算創新 應對Scaling Law挑戰

    北京2024年8月15日?/美通社/ -- 日前在2024開放計算中國峰會上,浪潮信息服務器產品線總經理趙帥表示,智能時代,開源模型和開放計算激發了人工智能產業生態的創新活力,面對大模型
    的頭像 發表于 08-15 16:02 ?476次閱讀
    <b class='flag-5'>浪潮信息</b>趙帥:開放計算<b class='flag-5'>創新</b> 應對Scaling Law挑戰

    浪潮信息與能投天府云合作打造42kW智風冷

    在數字化轉型浪潮的推動下,力作為新型生產力,正以前所未有的速度重塑著各行各業的發展格局。近日,四川省天府云數據科技有限責任公司(以下簡稱“能投天府云”)攜手浪潮信息,共同推出了國內首
    的頭像 發表于 07-17 15:23 ?896次閱讀

    浪潮信息攜手天府云數據科技推出了42kW智風冷

    在當今數字化轉型的浪潮中,力作為推動數字經濟高質量發展的核心引擎,正以前所未有的速度進化。近日,浪潮信息與四川省天府云數據科技有限責任公司攜手,在國內率先推出了42kW智風冷
    的頭像 發表于 07-15 16:18 ?875次閱讀

    浪潮信息發布AIStation V5,全面支持大模型開發流程與高效調度

    北京2024年7月11日?/美通社/ -- 7月9日,在"元腦中國行"全國巡展濟南站上,浪潮信息發布AIStation 人工智能開發平臺V5升級版,具備全面的大模型流程支持能力,幫助企業用戶降低構建
    的頭像 發表于 07-12 09:37 ?612次閱讀
    <b class='flag-5'>浪潮信息</b><b class='flag-5'>發布</b>AIStation V5,全面支持大<b class='flag-5'>模型</b>開發流程與<b class='flag-5'>高效</b><b class='flag-5'>算</b><b class='flag-5'>力</b>調度

    浪潮信息攜全產品和方案亮相WAIC 2024

    7月4日,2024世界人工智能大會(WAIC2024)在上海開幕。大會聚焦大模型、機器人、自動駕駛等重點領域,吸引眾多國內外知名人工智能企業參會。作為全球領先的IT基礎設施供應商,浪潮信
    的頭像 發表于 07-05 18:04 ?1782次閱讀
    主站蜘蛛池模板: 华人黄网站大全 | 手机看片精品国产福利盒子 | 性欧美一级 | 在线播放亚洲视频 | 国产视频首页 | 四虎永久免费地ww4hu57 | 欧美精品videofree720p | 在线 | 一区二区三区四区 | 色多多视频网站 | 特黄黄三级视频在线观看 | 给个网站可以在线观看你懂的 | 亚洲狠狠狠一区二区三区 | 美女屁屁免费视频网站 | 天天舔天天操 | 国产男女怕怕怕免费视频 | 国产叼嘿视频免费网站 | 好爽毛片一区二区三区四 | 农村苗族一级特黄a大片 | 中文字幕一区二区三区精彩视频 | 国产好深好硬好爽我还要视频 | 浓厚な接吻と肉体の交在线观看 | 天天射日| 久久国产乱子伦精品免费一 | 天天操丝袜 | 一区二区三区欧美在线 | 成人免费午间影院在线观看 | 色婷婷久久免费网站 | 偷自在线| 久操视频免费观看 | 日本天堂网在线观看 | 天天翘夜夜洗澡天天做 | 1000又爽又黄禁片在线久 | 亚洲精品美女久久久aaa | 黄色日比 | 亚洲插插 | 国产美女叼嘿视频免费看 | 亚洲国产精品va在线观看麻豆 | 久久99精品久久久久久臀蜜桃 | 日本免费不卡视频一区二区三区 | 午夜免费福利在线观看 | 免费午夜不卡毛片 |