近日,“昇騰+DeepSeek 智算引擎創(chuàng)新行”江蘇省首站活動(dòng)在南京成功舉辦,本次活動(dòng)由南京江北新區(qū)產(chǎn)業(yè)技術(shù)研創(chuàng)園指導(dǎo),江蘇省人工智能學(xué)會(huì)、江蘇鯤鵬·昇騰生態(tài)創(chuàng)新中心主辦。江蘇潤和軟件股份有限公司(以下簡稱“潤和軟件”)作為昇騰生態(tài)核心伙伴受邀出席,人工智能研究院AI總工朱凱分享了基于“昇騰 + openEuler + OpenHarmony + DeepSeek”的全場(chǎng)景云-邊-端智能生態(tài)體系的技術(shù)實(shí)踐,并參與圓桌論壇探討DeepSeek大模型行業(yè)落地路徑。
技術(shù)突破:全棧自主創(chuàng)新,夯實(shí)智能底座
潤和軟件全場(chǎng)景云-邊-端智能生態(tài)體系
1. 昇騰AI算力:覆蓋云-邊-端的全場(chǎng)景性能躍升
云端訓(xùn)練,昇騰910+openEuler深度優(yōu)化:依托昇騰910芯片的強(qiáng)大算力,潤和軟件深度定制HopeOS AI版操作系統(tǒng),結(jié)合NUMA親和調(diào)度策略與高效的容器化編排技術(shù),針對(duì)千億級(jí)參數(shù)大模型進(jìn)行分布式訓(xùn)練優(yōu)化。通過算子級(jí)融合優(yōu)化、CANN框架深度適配、數(shù)據(jù)流調(diào)度優(yōu)化及模型切分策略精細(xì)化調(diào)整,大幅降低計(jì)算節(jié)點(diǎn)間通信開銷,提升算力利用效率。
邊端推理,昇騰310+OpenHarmony實(shí)時(shí)響應(yīng):基于昇騰310芯片的高能效比優(yōu)勢(shì),結(jié)合OpenHarmony分布式軟總線的低開銷通信機(jī)制、跨設(shè)備協(xié)同與統(tǒng)一調(diào)度能力,實(shí)現(xiàn)了多端高效協(xié)同計(jì)算。
2. DeepSeek大模型:覆蓋訓(xùn)練到推理的端到端性能優(yōu)化
模型優(yōu)化,高效壓縮與行業(yè)適配:針對(duì)DeepSeek大模型,結(jié)合分層量化與知識(shí)蒸餾技術(shù),實(shí)現(xiàn)模型輕量化,同時(shí)確保核心任務(wù)的高精度要求。通過智能量化策略對(duì)不同層級(jí)進(jìn)行優(yōu)化,減少計(jì)算資源消耗,并融合行業(yè)知識(shí)進(jìn)行模型蒸餾,使其在金融風(fēng)控、醫(yī)療診斷等專業(yè)領(lǐng)域保持穩(wěn)健的推理性能。
行業(yè)定制,深度融合領(lǐng)域know-how:通過業(yè)務(wù)規(guī)則嵌入與場(chǎng)景化數(shù)據(jù)增強(qiáng)雙路徑驅(qū)動(dòng),構(gòu)建可動(dòng)態(tài)演化的微調(diào)框架:將行業(yè)知識(shí)圖譜與領(lǐng)域邏輯規(guī)則轉(zhuǎn)化為模型可識(shí)別的語義約束,結(jié)合輕量化增量訓(xùn)練技術(shù),實(shí)現(xiàn)預(yù)訓(xùn)練大模型向特定場(chǎng)景的精準(zhǔn)對(duì)齊,在保障通用能力的同時(shí)增強(qiáng)對(duì)碎片化、長尾需求的適應(yīng)性。
行業(yè)賦能:深入場(chǎng)景,讓AI驅(qū)動(dòng)業(yè)務(wù)增長
在以“DeepSeek大模型行業(yè)落地路徑”為主題的圓桌論壇中,潤和軟件針對(duì)大模型在垂直場(chǎng)景中面臨的碎片化需求適配難、領(lǐng)域知識(shí)遷移效率低、部署成本高等挑戰(zhàn),提出了“場(chǎng)景定義架構(gòu)、知識(shí)驅(qū)動(dòng)進(jìn)化”的落地方法論:
潤和軟件人工智能研究院AI總工朱凱參與圓桌論壇
統(tǒng)一引擎:潤和軟件自研的統(tǒng)一推理引擎通過深度整合軟硬件資源,提供了強(qiáng)大的推理加速能力與優(yōu)化效果,針對(duì)不同硬件平臺(tái)的專用算子優(yōu)化、內(nèi)存管理與并行計(jì)算的精細(xì)調(diào)度,通過智能層次調(diào)度與融合技術(shù)可根據(jù)模型的復(fù)雜度和硬件性能動(dòng)態(tài)調(diào)節(jié)推理流程。
知識(shí)閉環(huán):基于行業(yè)知識(shí)庫構(gòu)建反饋強(qiáng)化機(jī)制,利用模型微調(diào)框架實(shí)現(xiàn)“數(shù)據(jù)采集-知識(shí)提煉-模型迭代”的自進(jìn)化鏈路,構(gòu)建具備業(yè)務(wù)認(rèn)知自演進(jìn)能力的AI系統(tǒng)。
潤和軟件堅(jiān)持從“堆參數(shù)”轉(zhuǎn)向“解方程”的技術(shù)路徑,將行業(yè)關(guān)鍵問題轉(zhuǎn)化為可量化、可迭代的算法命題,再用AI工具精準(zhǔn)求解。未來,潤和軟件將持續(xù)深化“昇騰+DeepSeek”技術(shù)路線,依托工程化技術(shù)解耦能力,將大模型技術(shù)重構(gòu)為企業(yè)級(jí)即懂即用的智能業(yè)務(wù)賦能系統(tǒng),賦能千行百業(yè)智能化升級(jí)。
江蘇潤和軟件股份有限公司(簡稱“潤和軟件”)成立于2006年,2012年在深圳證券交易所創(chuàng)業(yè)板上市(證券代碼:300339),是國家重點(diǎn)規(guī)劃布局內(nèi)的大型軟件企業(yè)。公司總部位于南京,在北京、上海、深圳、香港等22個(gè)國內(nèi)主要城市設(shè)有研發(fā)中心或分子公司,在日本、美國、新加坡等國設(shè)有海外分支機(jī)構(gòu),全球員工約13000人,擁有全球化的技術(shù)整合、客戶響應(yīng)與服務(wù)到達(dá)能力。
秉承“做民族軟件脊梁,擔(dān)世界進(jìn)步責(zé)任”的使命,潤和軟件致力成為“中國數(shù)智科技與服務(wù)創(chuàng)新的引領(lǐng)者”,通過國產(chǎn)化、數(shù)字化、智能化創(chuàng)新技術(shù),軟硬件一體化解決方案能力及全生命周期軟件服務(wù)體系,激活行業(yè)新動(dòng)能、發(fā)展新質(zhì)生產(chǎn)力,助力廣大客戶數(shù)字化轉(zhuǎn)型和智能化升級(jí)。
-
模型
+關(guān)注
關(guān)注
1文章
3415瀏覽量
49477 -
昇騰
+關(guān)注
關(guān)注
1文章
146瀏覽量
6723 -
潤和軟件
+關(guān)注
關(guān)注
1文章
288瀏覽量
985 -
DeepSeek
+關(guān)注
關(guān)注
1文章
612瀏覽量
368
原文標(biāo)題:潤和軟件全棧AI生態(tài)亮相昇騰DeepSeek沙龍,技術(shù)突破與行業(yè)落地雙輪驅(qū)動(dòng)智能化升級(jí)
文章出處:【微信號(hào):hoperun300339,微信公眾號(hào):潤和軟件】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
湖南 DeepSeek+昇騰云技術(shù)應(yīng)用沙龍成功舉辦,拓維信息助力 AI 新范式探索

昇騰推理服務(wù)器+DeepSeek大模型 技術(shù)培訓(xùn)在圖為科技成功舉辦

研華發(fā)布昇騰AI Box及Deepseek R1模型部署流程
DeepSeek V3昇思MindSpore版本上線開源社區(qū)

云軸科技ZStack智塔攜手昇騰AI實(shí)現(xiàn)DeepSeek模型部署

華為推出昇騰DeepSeek大模型一體機(jī)
迅龍軟件出席華為昇騰APN伙伴大會(huì),獲昇騰APN鉆石伙伴授牌及兩項(xiàng)大獎(jiǎng)

喜訊 英碼科技受邀出席華為昇騰APN伙伴大會(huì),正式成為「昇騰鉆石部件伙伴」,喜獲多個(gè)重磅獎(jiǎng)項(xiàng)!

潤和軟件推出全場(chǎng)景云-邊-端智能生態(tài)體系

中軟國際科創(chuàng)中心上線DeepSeek模型
潤和軟件AIRUNS智能中樞平臺(tái)接入DeepSeek大模型

評(píng)論