今天,在2025全球開發者先鋒大會上,中科曙光正式發布DeepAI深算智能引擎,通過打造端到端全棧AI加速套件,助力各行各業AI應用開發與落地。
DeepSeek等大模型在全球范圍內的爆火,進一步激發了各行各業對于低成本、高效率的AI需求。多年前中科曙光就已預見到“算力即是生產力”的大勢所趨,針對AI大模型在多元場景的實際需求,DeepAI深算智能引擎帶來了三大升級:
高性能:全面支持基于新一代國產AI異構加速卡的框架/組件功能適配,并深度優化算子,性能總吞吐量提升120%;
高易用:自研獨立完整軟件棧,同時完全兼容主流生態,CUDA核心組件功能覆蓋率除硬件外達到100%;
高耦合:推出大模型應用平臺和大模型云原生AI平臺,支持主流大模型開放納管。
圍繞“高性能、高可用、高耦合”持續迭代,DeepAI深算智能引擎為廣大開發者群體提供靈活、易用、低成本的AI套件,面向多元場景幫助客戶圍繞DeepSeek等大模型構建AI能力,真正實現人工智能從技術積累到價值釋放的關鍵躍遷。
全鏈條優化
大模型從訓練開發到推理部署,性能調優是關鍵支撐。為此,在去年推出的 Al軟件棧DAS基礎上,DeepAI深算智能引擎從GPUFusion兼容層、基礎算子層、框架工具層、模型擴展組件層等四個層面入手,進行深度優化,目標算子性能提升30-70%,模型性能提升20-50%,單卡推理速度最高提升1倍以上。
針對新一代國產AI異構加速卡,DeepAI深算智能引擎進行“算子-框架-模型”全鏈條深度優化,并首發自研推理框架SGInfer,提供包括稀疏化實現、runtime層優化、圖層優化等在內的多種策略,單卡推理性能總吞吐量最高提升1倍以上,做到“軟硬協同、敏捷開發、高效部署”。
全周期服務
圍繞大模型開發、訓練、微調、推理、部署等全流程,DeepAI深算智能引擎內嵌DAP智能平臺,基于國產AI異構加速芯片打造大模型應用平臺、云原生AI平臺,預置100+關鍵場景應用,300+精調模型與加速算法。
其中,大模型應用平臺具備知識融合增強、智能體可視化編排、數據智能分析能力,云原生AI平臺具備數據處理、模型訓練和微調、大模型推理服務能力,共同為大模型的多元場景落地提供“數據治理-算法研發-模型部署-應用集成”全生命周期服務。
全場景適配
面向金融、醫療、政務、能源、科研、教育等行業場景,DeepAI深算智能引擎依托完整軟件棧和優化集成、完善的模型適配基礎、廣泛應用的AI智能平臺,覆蓋從十億級推理到千億級訓練的全場景產品方案,快速響應不同行業、不同場景定制需求,讓AI變得觸手可及。
截至目前,中科曙光以DeepAI深算智能引擎為核心,已經進入眾多關鍵行業,持續為中國氣象局、深圳紀委、中國電信天翼云、PICC人保財險、中石化物探院等頭部客戶提供高品質服務。
-
中科曙光
+關注
關注
5文章
344瀏覽量
18063 -
大模型
+關注
關注
2文章
2856瀏覽量
3533 -
DeepSeek
+關注
關注
1文章
703瀏覽量
628
原文標題:DeepAI深算智能引擎重磅發布:多元場景玩轉DeepSeek
文章出處:【微信號:sugoncn,微信公眾號:中科曙光】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論