在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

行業觀察——邊緣AI芯片架構的思考:為何可擴展GPU架構值得關注

馬華1 ? 來源:北京華興萬邦管理咨詢有 ? 作者:北京華興萬邦管理 ? 2025-04-18 09:33 ? 次閱讀

作者:北京華興萬邦管理咨詢有限公司 翔煜 商瑞

隨著大模型在不斷演進的同時將推理應用大規模推向邊緣和端點設備,以及物聯網智化、具身智能AI智能體(AI Agent)和物理AI等新的AI應用場景和模式的快速涌現,AI賦能設備的主控芯片設計師正面臨著全新的挑戰。尤其是對于邊緣和端點設備,它們既可能成為大模型的承載設備,也可能是用智能去為應用提供更好的核心功能,新的產品定義方向使主芯片架構師不得不去思考,其芯片在如何應對大模型快速演進的同時,還能實現用智能手段賦能傳統應用和實現新興功能。

因此,在追求極致性能、功耗和面積(PPA)的模式之外,架構師們需要富有前瞻性地去選擇高性能、高靈活性、可升級和開發者(生態)友好的架構。我們不妨先回顧AI發展的歷程,從感知AI到生成式AI,再到智能體AI和物理AI,其應用場景不斷拓展。在感知AI階段,Al技術在語音識別、深度推薦系統和醫學影像等領域取得顯著進展;生成式AI在數字營銷和內容創作方面發揮了重要作用;智能體AI為編程、客戶服務、患者護理提供助力;物理AI推動了自動駕駛汽車和通用機器人發展。

wKgZO2gA73OAWmsjAASaugnydGA085.png

伴隨著AI技術的發展,在傳統的CPUGPUFPGA等計算技術之外,諸如TPU、NPU 和DPU等專門針對特定算法或者模型的新型硬件數據處理加速器也開始出現,它們帶來高效率因而在許多場景中得到了應用。與此同時,AI技術不斷向新的場景和應用廣泛滲透,使得面向特定模型和場景的NPU等架構難以應對模型的變化和場景的多樣化,從而使傳統的 靈活性更高的CPU和GPU架構依舊在計算領域占據重要地位。

但是,AI技術的進步和新場景的出現,正在迫使半導體知識產權(IP)提供商和芯片設計公司快速做出變化,無論是采用傳統架構的廠商,還是新的xPU提供商都需要尊重產業規律。華興萬邦亦認為,從技術經濟學和企業實際經營來看,高額的研發費用和市場營銷費用是多數芯片設計企業面臨的最重要費用,而靈活可擴展的架構可以覆蓋更廣的市場并可以實現更長的產品生命周期,它們是攤銷這些費用以提升盈利能力的重要手段。

架構創新迫在眉睫

Imagination Technologies中國業務發展負責人黃音在慕尼黑電子展AI技術創新論壇演講中分析道:“當前主芯片設計不僅需要芯片企業投入大量研發資源,更需要協調生態合作伙伴的技術路線。面對AI算法快速迭代的挑戰,行業在探索創新架構的同時,仍需重視經過長期驗證的基礎計算架構價值。以GPU為例,其架構在保持高并行計算優勢的同時,新一代設計正通過模塊化擴展能力(如可配置Shader集群、彈性內存子系統)來適應不同AI工作負載需求。作為專注圖形計算領域的IP廠商,Imagination觀察到,理想的AI加速架構需要在三個維度取得平衡:支持細粒度并行的計算單元設計、滿足算法動態調整的可配置性,以及維持開發工具鏈的持續兼容性。”

wKgZO2gA73GAeQkGAAiK6llNXSE700.png

“擴展能力是Imagination GPU開發演進的方向:在具備強大的渲染能力的同時,融合AI并行計算能力,在邊緣AI的場景下能提供靈活又高效的算力。所以,Imagination將幫助芯片設計人員發現真正的破局點,幫助他們去構建一個可以持續適配模型和算法演進、以及支持新興應用的架構平臺——而不是為某個模型做一次性的‘專用硬件定制’,從而避免硬件(處理器)總是費力費錢跟著算法跑的問題。”黃音補充道。

Imagination正在幫助客戶導入更加靈活的架構。以該公司不久前發布的Imagination DXTP GPU IP為例,它采用了先進的平衡架構,增加了緩存和系統級帶寬,實現了更高的持續性能,幾何吞吐量提高50%,不僅能夠輕松同時處理圖形和計算任務,而且其功率效率還較其前序產品提升了20%,為邊緣AI提供了理想的GPU平臺。DXTP GPU已經被全球知名科技公司采用,用于對AI 多數據類型處理、計算任務加速和本地內存的支持。

wKgZPGgA73CAHuMCAAKIutK_0Zs823.png

三個落地是成功的關鍵

當然,對于芯片設計師而言,這需要做到三個必須“落地”,即模型算法落地、垂直功能落地和開放生態落地。針對模型算法落地,Imagination的突破點是堅持構建一個通用可編程的并行架構平臺,并通過開放的編譯器和推理后端(backend),支持客戶軟硬件協同設計和提供適配路徑,幫助其客戶把諸如Transformer、Diffusion類模型和前沿算法快速落地到GPU上。為此該公司將幫助客戶認識到在算法不斷演化的時代,架構的“適配力”遠比一時的TOPS值更重要。

在垂直功能落地方面,Imagination在移動、汽車、云和桌面等領域深耕了數十年,積累了豐富的經驗和許多創新的支撐性技術,可以幫助客戶去避開其中的潛在風險和快速在領域內創造優勢,這可以從該公司的D系列GPU IP的產品功能創新上可以看出其垂直領域功能落地能力。例如,DXT GPU是Imagination面向移動應用、高端游戲和專業圖形設計等應用推出的新一代GPU IP,它不僅率先在移動平臺上提供了可擴展的光線追蹤功能,還有2D雙速率紋理映射等多項可以提升處理速度和優化內存帶寬的技術。

為了幫助桌面和數據中心客戶實現高性能的云端GPU創新解決方案,Imagination推出了DXD GPU IP,首次將Imagination的API覆蓋擴展至DirectX,這一舉措顯著提升了DXD與Windows平臺上的應用程序和游戲的兼容性。同時,Imagination的硬件虛擬化技術 HyperLane支持在單個GPU上安全且獨立地運行多個操作系統,極大地提升了服務器的使用效率,降低了云游戲的運營成本,并為云游戲行業的發展帶來了創新的運營模式。

Imagination為汽車智駕芯片提供的專用IP是該公司支持芯片設計企業垂直功能落地的又一個典范,血的教訓換來了更加嚴格的安全法規,使智駕芯片設計公司在算力、生態和生命周期之外,必須去認真去考慮功能安全性。為了幫助芯片設計企業滿足全球汽車智能化需求,Imagination推出了DXS系列GPU,該系列IP不僅為智能駕駛艙和先進駕駛輔助(ADAS)等應用所需SoC帶來匹配的算力,而且專為諸如汽車處理器等對功能安全性要求極為嚴苛的應用,開發了結合GPU的計算模式特點并大幅降低成本的分布式功能安全機制(DSM)并通過了ASIL-B認證。這為汽車和工業等越來越多需要GPU的圖形處理能力和計算能力的電子系統帶來了巨大的創新。

wKgZO2gA73GAANXqAALQdVGW_JY138.png

Imagination在支持客戶實現產業生態落地方面也同樣頗費心機,其GPU IP全面支持OpenCL、SYCL、Vulkan Compute等開放標準,與PyTorch、TensorFlow等主流框架完美兼容。如Imagination通過與安卓生態系統合作,優化對LiteRT的支持,為開發者提供豐富工具和示例,便于開發高性能AI應用,充分展現了其GPU架構的適配能力。這種開放生態簡化了新硬件與設備的集成流程,避免供應商鎖定問題,使客戶能在不同平臺輕松部署。通過整合多方資源,Imagination可幫助客戶實現協同優化,提升資源利用率和執行效率,鞏固了其在GPU市場的領先地位,為企業應對AI算法和產品快速迭代提供堅實支持。

總結與展望

大模型的下沉、算法創新和邊緣及端側AI的崛起為基于 GPU的主控芯片帶來了新的發展契機,在AI一體機、新物聯網、智能安防和自動駕駛等領域已經出現了巨大的需求,這些設備對高性能的圖形處理和AI推理同時都有越來越多的需求,因此更靈活和可擴展的架構可以使芯片設計公司的產品覆蓋更廣泛的市場領域,同時可以擁有更長的產品生命周期,也就有了更高的潛在盈利能力。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4900

    瀏覽量

    130559
  • AI
    AI
    +關注

    關注

    87

    文章

    33936

    瀏覽量

    274835
  • AI芯片
    +關注

    關注

    17

    文章

    1965

    瀏覽量

    35662
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    iTOP-3588S開發板四核心架構GPU內置GPU可以完全兼容0penGLES1.1、2.0和3.2。

    性能強 iTOP-3588S開發板采用瑞芯微RK3588S處理器,是全新一代AloT高端應用芯片,搭載八核64位CPU,四核Cortex-A76和四核Cortex-A55架構主頻高達2.4GHZ
    發表于 05-15 10:36

    北京市最值得去的十家半導體芯片公司

    代提升2-3倍,廣泛應用于云計算與邊緣計算,2021年獨立后估值達130億元。 5. 奕斯偉(ESWIN) 領域 :RISC-V架構與生態鏈 亮點 :聚焦RISC-V+AI芯片,覆蓋計
    發表于 03-05 19:37

    AI賦能邊緣網關:開啟智能時代的新藍海

    。這一變革不僅帶來了技術架構的革新,更為產業發展開辟了新的增長空間。 傳統邊緣網關受限于計算能力和算法支持,往往只能完成數據采集和簡單處理,大量原始數據需要回傳云端處理,導致響應延遲和帶寬壓力。AI技術
    發表于 02-15 11:41

    芯原發布新一代Vitality架構GPU IP系列

    芯原股份近日宣布,正式推出全新Vitality架構的圖形處理器(GPU)IP系列。這一新一代GPU架構以其卓越的計算性能和廣泛的應用領域,吸引了業界的廣泛
    的頭像 發表于 12-24 10:55 ?754次閱讀

    芯原推出新一代高性能Vitality架構GPU IP系列

    原新一代Vitality GPU架構顯著提升了計算性能,并支持多核擴展,以進一步提升性能。該GPU架構集成了諸多先進功能,如一個可配置的張量
    的頭像 發表于 12-19 15:55 ?399次閱讀

    《算力芯片 高性能 CPUGPUNPU 微架構分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變

    在數據挖掘工作中,我經常需要處理海量數據的深度學習任務,這讓我對GPU架構和張量運算充滿好奇。閱讀《算力芯片》第7-9章,讓我對這些關鍵技術有了全新認識。 GPU
    發表于 11-24 17:12

    GPU服務器AI網絡架構設計

    眾所周知,在大型模型訓練中,通常采用每臺服務器配備多個GPU的集群架構。在上一篇文章《高性能GPU服務器AI網絡架構(上篇)》中,我們對
    的頭像 發表于 11-05 16:20 ?992次閱讀
    <b class='flag-5'>GPU</b>服務器<b class='flag-5'>AI</b>網絡<b class='flag-5'>架構</b>設計

    《算力芯片 高性能 CPUGPUNPU 微架構分析》第二篇閱讀心得:芯片拓撲學:并行擴展與CPU設計的巨頭對決

    更是達到了令人驚嘆的6GFLOPS/W。 3 處理器性能的未來與思考 隨著閱讀深入,我發現這兩章內容與前4章的CPU微架構知識自然銜接,又為后續GPU和NPU架構的學習搭建了認知框架。
    發表于 10-29 01:48

    邊緣計算架構設計最佳實踐

    邊緣計算架構設計最佳實踐涉及多個方面,以下是一些關鍵要素和最佳實踐建議: 一、核心組件與架構設計 邊緣設備與網關 邊緣設備 :包括各種嵌入式
    的頭像 發表于 10-24 14:17 ?925次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    GPU、NPU,給我們剖析了算力芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解算力芯片。 全書共11章,
    發表于 10-15 22:08

    【「大模型時代的基礎架構」閱讀體驗】+ 未知領域的感受

    再到大模型云平臺的構建,此書都有提及和講解,循序漸進,讓讀者可以由點及面,由面到體的來認識大數據模型的體系架構。 前言中,作者通過提出幾個問題來引導讀者閱讀思考——分布式AI計算依賴哪些硬件特性
    發表于 10-08 10:40

    名單公布!【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構分析

    ,即大模型專用AI超級計算機的中樞核心。 作者介紹: 濮元愷,曾就職于中關村在線核心硬件事業部,負責CPU和GPU類產品評測,長期關注GPGPU并行計算相關芯片
    發表于 09-02 10:09

    AI芯片的混合精度計算與靈活擴展

    電子發燒友網報道(文/李彎彎)當前,AI技術和應用蓬勃發展,其中離不開AI芯片的支持。AI芯片是一個復雜而多樣的領域,根據其設計目標和應用場
    的頭像 發表于 08-23 00:08 ?5671次閱讀

    自動駕駛三大主流芯片架構分析

    當前主流的AI芯片主要分為三類,GPU、FPGA、ASIC。GPU、FPGA均是前期較為成熟的芯片架構
    的頭像 發表于 08-19 17:11 ?2152次閱讀
    自動駕駛三大主流<b class='flag-5'>芯片</b><b class='flag-5'>架構</b>分析

    ai服務器是什么架構類型

    架構AI服務器通常具有較高的通用性,可以運行各種人工智能算法。但是,CPU架構AI服務器在處理大規模并行計算時,性能可能不如GPU
    的頭像 發表于 07-02 09:51 ?1667次閱讀
    主站蜘蛛池模板: 亚洲欧洲一区二区三区在线观看 | 视频h在线| 婷婷五月色综合香五月 | 亚洲视频在线一区二区三区 | 久久99免费| 天天插日日插 | 色狠狠狠色噜噜噜综合网 | 亚洲一区二区福利视频 | 亚洲伊人久久网 | 久久狠狠干 | 欧美中字| 亚洲大黑香蕉在线观看75 | 天天爽夜夜爽每晚高澡 | 亚洲人成人 | 狠狠色狠狠色综合婷婷tag | 玖操在线 | 性欧美videofree视频另类 | 思思久99久女女精品 | 午夜视频黄色 | 天堂视频免费 | 在线永久免费观看黄网站 | 欧美影院一区 | 午夜影剧 | 性欧美bbbbbb | 国产三级播放 | 老师喂我吃她的奶水脱她胸罩 | 五月天激情综合网 | 九九福利视频 | 饥渴少妇videos | 久久精品亚洲一区二区三区浴池 | 国产女人伦码一区二区三区不卡 | 久久久久999 | 天天做天天干 | 在线免费视频网站 | se视频在线观看 | 666夜色666夜色国产免费看 | 欧美一欧美一区二三区性 | 乱e伦有声小说 | 免费播放特黄特色毛片 | 婷婷丁香色综合狠狠色 | 国产gav成人免费播放视频 |