電子發(fā)燒友原創(chuàng) 章鷹
6月18日,GSMA 2025 MWC 上海今日在上海浦東嘉里大酒店舉行開幕式,正式拉開帷幕。GSMA會長白德偉Vivek Badrinath表示:“中國是全球最大的5G市場,并在 AI 與開放式 API 的發(fā)展方面走在前沿,這一切得益于運(yùn)營商與開發(fā)者之間的深度協(xié)作。隨著人工智能的采用呈現(xiàn)指數(shù)級的增長,5G內(nèi)置的功能是絕對必要的。中國在基于人工智能的先進(jìn)應(yīng)用方面僅次于美國和德國,在生成式人工智能方面,中國也非常先進(jìn)。”
今年端側(cè)AI終端落地持續(xù)加速,從AI手機(jī)、AI平板、AI PC到AI大模型上車,工業(yè)智能機(jī)器人等多種類型。在6月18日到20日的GSMA大會上,國內(nèi)5G芯片廠商紫光展銳正式推出UNISOC端側(cè)AI平臺化解決方案,可實現(xiàn)更優(yōu)性能、更低功耗、更靈活配置的端到端AI平臺交付,主要包括兩套方案。
一是單芯片AI解決方案。紫光展銳提供了5G SoC T9100,實現(xiàn)AI性能的全面提升。典型場景下,展銳單芯片AI解決方案可實現(xiàn)大模型生成速度較上一代異構(gòu)方案提升20%+、大模型推理功耗降低60%。該方案采用多核異構(gòu)系統(tǒng)架構(gòu),軟硬件協(xié)同、指令級優(yōu)化與DVFS效能控制,可帶來高效強(qiáng)勁的性能表現(xiàn)。
6月18日,GSMA 2025 MWC 上海今日在上海浦東嘉里大酒店舉行開幕式,正式拉開帷幕。GSMA會長白德偉Vivek Badrinath表示:“中國是全球最大的5G市場,并在 AI 與開放式 API 的發(fā)展方面走在前沿,這一切得益于運(yùn)營商與開發(fā)者之間的深度協(xié)作。隨著人工智能的采用呈現(xiàn)指數(shù)級的增長,5G內(nèi)置的功能是絕對必要的。中國在基于人工智能的先進(jìn)應(yīng)用方面僅次于美國和德國,在生成式人工智能方面,中國也非常先進(jìn)。”
今年端側(cè)AI終端落地持續(xù)加速,從AI手機(jī)、AI平板、AI PC到AI大模型上車,工業(yè)智能機(jī)器人等多種類型。在6月18日到20日的GSMA大會上,國內(nèi)5G芯片廠商紫光展銳正式推出UNISOC端側(cè)AI平臺化解決方案,可實現(xiàn)更優(yōu)性能、更低功耗、更靈活配置的端到端AI平臺交付,主要包括兩套方案。
一是單芯片AI解決方案。紫光展銳提供了5G SoC T9100,實現(xiàn)AI性能的全面提升。典型場景下,展銳單芯片AI解決方案可實現(xiàn)大模型生成速度較上一代異構(gòu)方案提升20%+、大模型推理功耗降低60%。該方案采用多核異構(gòu)系統(tǒng)架構(gòu),軟硬件協(xié)同、指令級優(yōu)化與DVFS效能控制,可帶來高效強(qiáng)勁的性能表現(xiàn)。

二是異構(gòu)分布式AI方案。據(jù)悉,異構(gòu)分布式AI方案是當(dāng)前AI基礎(chǔ)設(shè)施的重要方向,主要面向大規(guī)模模型訓(xùn)練、推理和復(fù)雜計算任務(wù)。科技巨頭AMD、Intel和NVDIA都推出了此類方案。

紫光展銳此次帶來的異構(gòu)分布式AI方案,可助力多芯片互聯(lián),提供更加靈活開放的多檔算力組合,支持從1T至100T的算力靈活配置,適配30+不同參數(shù)量模型,并支持業(yè)界不同規(guī)格的大語言模型實時并發(fā),滿足從輕量化到大參數(shù)量等不同場景下的算力需求。異構(gòu)分布式解決方案采用分布式集成架構(gòu),即插即用;內(nèi)存獨(dú)享,帶寬擴(kuò)展靈活;開放多元的生態(tài),可靈活拓展、按需定制。
我們看到,UNISOC 端側(cè)AI平臺化解決方案可與手機(jī)、平板、穿戴、汽車等多種創(chuàng)新終端靈活組合,賦能千行百業(yè)。目前,搭載紫光展銳T9100的步步高AI學(xué)習(xí)機(jī)等多款終端應(yīng)用已量產(chǎn)上市。
對于工程師來說,紫光展銳自研的AISDK可提供Ustudio全流程開發(fā)工具,多OS支持,實現(xiàn)可視化集成分析、一鍵安裝與插件化部署;UNN異構(gòu)計算開發(fā)平臺具備彈性集成與通用平臺特性,可提供多種解決方案,降低開發(fā)門檻提升開發(fā)效率,全方位加速AI應(yīng)用落地。
此外,UNISOC 端側(cè)AI平臺化解決方案支持AI領(lǐng)域的“萬能接口”——MCP,可實現(xiàn)一鍵部署,支持動態(tài)MCP配置、多協(xié)議兼容以及端云MCP,可穩(wěn)定調(diào)用外部工具,豐富的插件支持、廣泛的服務(wù)定制以及快速的應(yīng)用擴(kuò)展可助力打造開放多元的協(xié)作生態(tài)。
當(dāng)前AI落地尚存才場景、性能等挑戰(zhàn),比如端側(cè)的算力不足和內(nèi)存偏低,難以支撐7B、14B以上的模型和復(fù)雜的推理需求,相信隨著紫光展銳、瑞芯微、高通、海思等芯片大廠推出新品,會帶來更多創(chuàng)新AI終端的落地。
我們看到,UNISOC 端側(cè)AI平臺化解決方案可與手機(jī)、平板、穿戴、汽車等多種創(chuàng)新終端靈活組合,賦能千行百業(yè)。目前,搭載紫光展銳T9100的步步高AI學(xué)習(xí)機(jī)等多款終端應(yīng)用已量產(chǎn)上市。
對于工程師來說,紫光展銳自研的AISDK可提供Ustudio全流程開發(fā)工具,多OS支持,實現(xiàn)可視化集成分析、一鍵安裝與插件化部署;UNN異構(gòu)計算開發(fā)平臺具備彈性集成與通用平臺特性,可提供多種解決方案,降低開發(fā)門檻提升開發(fā)效率,全方位加速AI應(yīng)用落地。
此外,UNISOC 端側(cè)AI平臺化解決方案支持AI領(lǐng)域的“萬能接口”——MCP,可實現(xiàn)一鍵部署,支持動態(tài)MCP配置、多協(xié)議兼容以及端云MCP,可穩(wěn)定調(diào)用外部工具,豐富的插件支持、廣泛的服務(wù)定制以及快速的應(yīng)用擴(kuò)展可助力打造開放多元的協(xié)作生態(tài)。
當(dāng)前AI落地尚存才場景、性能等挑戰(zhàn),比如端側(cè)的算力不足和內(nèi)存偏低,難以支撐7B、14B以上的模型和復(fù)雜的推理需求,相信隨著紫光展銳、瑞芯微、高通、海思等芯片大廠推出新品,會帶來更多創(chuàng)新AI終端的落地。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
紫光展銳
+關(guān)注
關(guān)注
15文章
887瀏覽量
41581 -
ai平臺
+關(guān)注
關(guān)注
0文章
5瀏覽量
1665
發(fā)布評論請先 登錄
相關(guān)推薦
熱點(diǎn)推薦
紫光展銳推出UNISOC端側(cè)AI平臺化解決方案
當(dāng)前,人工智能技術(shù)正以前所未有的速度加速演進(jìn),不斷突破傳統(tǒng)終端形態(tài)邊界。從手機(jī)、電腦、汽車、智能家居到工業(yè)智能、機(jī)器人等更多創(chuàng)新形態(tài),都將與AI深度融合,從而催生“萬物AI+”的顛覆性
紫光展銳UNISOC Miracle Gaming奇跡手游引擎亮點(diǎn)
全球手游市場規(guī)模日益壯大,游戲玩家對極致體驗的追求愈發(fā)苛刻。紫光展銳全新UNISOC Miracle Gaming奇跡手游引擎,集成調(diào)度、網(wǎng)絡(luò)、圖形、內(nèi)存、存儲五大核心引擎,全方位
端側(cè) AI 芯片:終端智能落地的核心引擎
電子發(fā)燒友網(wǎng)報道(文 / 李彎彎)端側(cè) AI 芯片,是專門為在諸如智能手機(jī)、IoT 設(shè)備、自動駕駛汽車等終端設(shè)備上,高效運(yùn)行人工智能算法而設(shè)計的處理器。通過硬件級優(yōu)化,它們能夠?qū)崿F(xiàn)低功
首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
,聯(lián)發(fā)科帶來了全面升級的天璣AI開發(fā)套件2.0,在模型庫規(guī)模、架構(gòu)開放程度、前沿端側(cè)AI技術(shù)支持和端側(cè)
發(fā)表于 04-13 19:52
AI大模型端側(cè)部署正當(dāng)時:移遠(yuǎn)端側(cè)AI大模型解決方案,激活場景智能新范式
AI大模型解決方案備受矚目,為AI設(shè)備的革新注入了澎湃動力。 萬億級市場藍(lán)海顯現(xiàn),端側(cè)AI大模型
發(fā)表于 03-27 11:26
?211次閱讀

AI大模型端側(cè)部署正當(dāng)時:移遠(yuǎn)端側(cè)AI大模型解決方案,激活場景智能新范式
AI大模型解決方案備受矚目,為AI設(shè)備的革新注入了澎湃動力。萬億級市場藍(lán)海顯現(xiàn),端側(cè)AI大模型

MWC 2025 | 廣和通發(fā)布全矩陣AI解決方案“星云”系列,創(chuàng)新變革端側(cè)AI
3月3日,在2025世界移動通信大會(MWC Barcelona 2025)期間,廣和通覆蓋1T~50T的全矩陣AI模組及解決方案——“星云”系列全面亮相,其內(nèi)置廣和通自研的Fiboc

廣和通Fibocom AI Stack:加速端側(cè)AI部署新紀(jì)元
近日,廣和通正式推出了Fibocom AI Stack,這一創(chuàng)新解決方案旨在賦能千行百業(yè)的端側(cè)應(yīng)用,推動
廣和通開啟端側(cè)AI新時代
AI發(fā)展正酣,隨著終端芯片算力越來越高、端側(cè)模型能力越來越強(qiáng)、實時響應(yīng)及隱私保護(hù)的端側(cè)應(yīng)用需求增
廣和通端側(cè)AI解決方案驅(qū)動性能密集型場景商用型場景商用
2024世界機(jī)器人大會期間,廣和通宣布:基于高通QCS8550平臺的廣和通端側(cè)AI解決方案高效使能性能密集型場景。該

紫光展銳成為中國移動首批AI終端先鋒合作伙伴
6月27日,中國移動在2024年上海世界移動通信大會(MWC上海)期間成功舉辦了終端合作峰會。會上,中國移動聯(lián)合終端廠商、芯片廠商正式成立終端智能體聯(lián)盟,并公布了首批AI
廣和通端側(cè)AI解決方案榮膺MWCS 2024邊緣AI計算最佳創(chuàng)新獎
在近日舉行的2024世界移動通信大會·上海(MWCS 2024)上,廣和通憑借其卓越的端側(cè)AI解決方案榮獲2024信息通信業(yè)“新質(zhì)推薦”——
評論