近日，昇思人工智能框架峰會(huì)暨成果發(fā)布會(huì)在北京舉辦。AI框架作為大模型開發(fā)及產(chǎn)業(yè)落地的基礎(chǔ)軟件，在人工智能技術(shù)棧中起到使能算法開發(fā)、釋放硬件性能的“承上啟下”作用。

會(huì)上，商湯參與基于昇思AI框架的大模型原生開發(fā)成果發(fā)布；同時(shí)，商湯基于華為生態(tài)在模型和算法方面的優(yōu)秀創(chuàng)新與實(shí)踐，獲得了昇思MindSpore開源社區(qū)2024年度杰出開發(fā)者稱號(hào)，標(biāo)志著雙方在推動(dòng)人工智能技術(shù)發(fā)展方面邁出了堅(jiān)實(shí)的一步，通過共同構(gòu)建框架新生態(tài)，為用戶提供更加高效、便捷、可靠的智算服務(wù)。

強(qiáng)強(qiáng)結(jié)合，取得多項(xiàng)聯(lián)創(chuàng)成果

2024年，商湯依托昇騰與昇思生態(tài)，共同推進(jìn)基礎(chǔ)模型、行業(yè)大模型應(yīng)用與創(chuàng)新，通過高效并行、通信優(yōu)化及網(wǎng)絡(luò)架構(gòu)感知和任務(wù)調(diào)度等軟硬優(yōu)化技術(shù)，構(gòu)建了大規(guī)模并行訓(xùn)練加速系統(tǒng)。在此基礎(chǔ)上，商湯聯(lián)合昇思MindSpore優(yōu)化混合專家(MoE)模型高效計(jì)算架構(gòu)，模型性能提升18%以上。

基于昇思MindSpore，商湯還建設(shè)長序列并行訓(xùn)練加速機(jī)制，與業(yè)界相比，4K序列性能提升1倍以上，32K序列性能持平，并支持處理128K長序列訓(xùn)練。

目前，商湯日日新大模型從底層軟件棧的接入到基礎(chǔ)框架優(yōu)化、再到模型原生開發(fā)，在性能、穩(wěn)定性等關(guān)鍵參數(shù)方面超過業(yè)界。

多元異構(gòu)，引領(lǐng)AI基礎(chǔ)設(shè)施自主可控實(shí)踐

商湯大裝置積極開展芯片適配，推動(dòng)智能算力多元化。基于自研訓(xùn)練框架與推理框架，聯(lián)合產(chǎn)業(yè)鏈上下游企業(yè)開展多元GPU芯片適配工作，搭建能兼容多種芯片的異構(gòu)算力體系。

目前，AI國產(chǎn)算力集群算力規(guī)模超2,000PetaFLOPS。商湯大裝置面向多元芯片打造的技術(shù)體系，為多樣化計(jì)算場景下的大模型高效部署與創(chuàng)新應(yīng)用落地提供了有力支撐。

商湯大裝置多元芯片技術(shù)體系包含原生云組件、訓(xùn)推一體加速和多元異構(gòu)算力，可提供全面的資源狀態(tài)監(jiān)控，打通從訓(xùn)練到推理的全鏈路操作，實(shí)現(xiàn)95%以上的多元異構(gòu)混訓(xùn)效能，優(yōu)化整體能耗，降低運(yùn)營成本。

算力加持，穩(wěn)居智算第一梯隊(duì)

商湯大裝置不僅算力規(guī)模達(dá)20,000 PetaFLOPS，軟件和平臺(tái)的創(chuàng)新力和服務(wù)能力亦備受各界認(rèn)可。在IDC此前發(fā)布的《中國智算服務(wù)市場（2023下半年）跟蹤》報(bào)告中，商湯在中國云計(jì)算基礎(chǔ)設(shè)施廠商中脫穎而出，與火山引擎、阿里巴巴共同躋身2023年下半年中國GenAI IaaS服務(wù)廠商TOP 3，以顯著的市場份額優(yōu)勢位居GenAI IaaS領(lǐng)域的第一梯隊(duì)。

在IDC發(fā)布《中國模型即服務(wù)（MaaS）及AI大模型解決方案市場追蹤，2024H1》報(bào)告中，商湯科技（商湯大裝置萬象）以14.8%的市場份額位居第二，領(lǐng)跑AI大模型解決方案行業(yè)第一梯隊(duì)。

商湯大裝置始終致力于打造高效易用的全棧大模型服務(wù)，無縫對接各類模型應(yīng)用場景，提升大模型技術(shù)的落地效率，更好地賦能千行百業(yè)。