在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

從數據到智能:邊緣AI發展進入新階段,方案部署面臨怎樣的挑戰?

Felix分析 ? 來源:電子發燒友 ? 作者:吳子鵬 ? 2025-01-15 00:13 ? 次閱讀

回顧2024年AI產業的發展,AI大模型依然在高歌猛進,不過將AI工作負載從云端卸載到終端的趨勢已經非常明顯,以邊緣計算為承載的邊緣AI潛力無限。根據STL Partners邊緣計算關鍵數據統計,全球邊緣計算市場規模預計將從2020年的90億美元,快速增長到2030年的4450億美元,其間年復合增長率為48%。AIGC時代的到來,加速了邊緣計算與AI的深度融合,邊緣AI的理念得到了各行業的廣泛認可。

在最新的2025年預測中,NVIDIA AI專家預測,智能商店、新型機器人將不斷崛起,并且醫療健康、制造業等領域將實現突破性發展。不斷涌現的行業經典案例顯示,邊緣AI讓終端數據體現出了更高的價值,從數據轉化為智能是當下各行業的重點工作。

NVIDIA 2025年預測解讀

NVIDIA 2025年預測的主題是《AI將深入挖掘行業數據湖》,在這份預測里,NVIDIA的AI專家談到了很多行業應用——手術機器人、AI藥廠、移動機器人(AMR)、智慧金融、AI工廠、智能電網、AI智能體、智慧零售等。這些極具創新潛能的應用表明,全球各個行業都在積極構建和定制大語言模型(LLM),AI大模型下沉至終端讓“AI+”從理念走進現實,進而促成了這些典型應用。

wKgZO2eGOYCAenncAALHjH0aCMg685.png
圖源:NVIDIA

正如NVIDIA醫療健康副總裁Kimberly Powell在談到手術機器人時所說,數字孿生、模擬和AI讓手術機器人變得更加強大,使其能夠以各種方式協助人類臨床醫生,從理解和響應人類指令,到執行和協助復雜的手術。Kimberly Powell強調,用于訓練機器人執行復雜任務的新型虛擬世界將會使自主手術機器人成為現實。這些手術機器人將能夠精確地執行復雜手術任務,縮短患者的康復時間,并減少外科醫生的認知工作量。

NVIDIA Omniverse和仿真技術副總裁Rev Lebaredian則提議,“讓我們擁抱物理AI,為能夠感知、理解物理世界并與之互動的AI模型做好準備,這是企業將要競相應對的一項挑戰。”可能很多人對于物理AI這個概念還有一些陌生,簡單理解,物理AI就是在數字世界里通過3D重構的方式模擬物理世界,可以讓算法模型更好地理解物理世界,適應物理世界的約束。物理AI需要根據真實場景完成基于物理學的大規模仿真,可以讓機器人等智能體在虛擬世界中快速完成各種訓練,訓練的成本和效率都得到了顯著優化。

其他NVIDIA AI專家的預測就不在此一一展開,但這些預測實際上更多是應用領域的差異,在實現邏輯上有很大的共性,基本是圍繞智能體、AI大模型下沉、虛擬現實、物理AI、物理仿真等理念展開,完成細分領域的“AI+”。所實現的成果就是,基于細分領域的數據構建AI模型或仿真,然后用模型和仿真結果賦能終端實現更好的智能化。

因而,透過NVIDIA AI專家的預測不難看出,從數據轉化為具體的AI應用將為終端行業帶來巨大的價值空間。數據價值挖掘是一種通過數據分析、機器學習、統計方法等技術手段,從大量數據中提取有用信息和知識的過程。隨著AI大模型、物理AI和智能體等概念的強化,數據挖掘和轉化的目標變得更加清晰,數據的增長也不再局限于云端或數據中心里,終端設備成為源源不斷的數據源。然后基于數據的算法、模型和智能體將具備更強大的智能化能力,能夠以更快的速度、更低的成本和更低的功耗提供實時分析和反饋。這種相互促進讓終端應用得以快速迭代,不僅高效、低功耗、安全,并具有很強的垂直屬性,包括個性化定制的屬性。

綜上所述,邊緣AI在2025年將發生一些顯著的變化,不再只是簡單地基于通用算法和基礎算力,而是基于行業數據打造專屬的大模型和智能體,能夠根據實時的數據采集給出及時的反饋和策略調整,已經具備具身智能的雛形。這種趨勢將受到各個終端行業的歡迎,正如分析機構Gartner在報告中提到的,到2025年將有75%的數據產生在數據中心和云之外,并在邊緣側進行處理;到2026年,86%的邊緣開發者在項目開發時會將目標鎖定在AI方向。

邊緣AI部署的現狀、挑戰和應對之策

NVIDIA AI專家的預測告訴我們,2025年邊緣AI是大有可為的,且對創新有非常大的包容性。當然,現階段各行業所面臨的市場情況并不一致,且有明顯的地域差異。簡單看一下AI在一些典型領域的普及情況:
·自動駕駛:乘聯會數據顯示,2023年中國市場乘用車L2級自動駕駛的滲透率達到了47.3%,明顯領先于全球(高盛數據稱約為20%);
·智能機器人:I-AIIG的數據指出,美國機器人市場中AI驅動的高端機器人系統占比為30%,遠高于全球平均水平。
·人形機器人:Omdia最新報告指出,2027年全球人形機器人銷量破萬,當前處于行業爆發的前夜。

隨著各行業對于邊緣AI的認可度越來越高,參與度越來越深,邊緣AI的部署開始出現既定的方案,比如NVIDIA全球副總裁、汽車事業部負責人吳新宙在分享自動駕駛預測時談到的,支撐自動駕駛車輛開發有三臺關鍵計算機——一臺用于在數據中心訓練基于AI的堆棧,另一臺用于模擬和驗證,第三臺車載計算機用于處理實時傳感器數據以實現安全駕駛。

更前沿的人形機器人也是如此,目前人形機器人主要由感知系統、動力系統、控制系統、能源系統和通信模塊等幾個關鍵部分組成,其中感知系統和控制系統主要的職責就是實現智能化。控制系統是人形機器人的大腦,包含了主控芯片、子系統控制器和各種控制組件,主控芯片上運轉著最核心的算法模型。

雖然經過一段時間的發展,邊緣AI的部署不再是摸著石頭過河,但仍有一些挑戰需要去克服。邊緣AI系統主要包括硅芯片層、硬件系統層、AI和應用層、垂直解決方案層。相較于云端AI,邊緣AI在能效、實時性和數據安全方面展現出明顯優勢,然而,部署邊緣AI方案的硬件資源是非常有限的,包括計算資源、存儲資源和網絡帶寬資源皆是如此,如何基于有限的硬件資源構建強大的智能應用是所有行業共同研究的課題。為構建更好的邊緣AI,開發者需要更強大的計算芯片,也需要通過量化技術、權重剪枝、低秩分解等技術盡可能去壓縮AI模型,全面推動軟硬件協同優化。

另外,在軟硬件協同優化方面還會有一些額外的挑戰,比如軟硬件協同優化往往是基于訓練數據,而忽視了最終的部署場景,上述內容已經提到,現階段的邊緣AI并不是簡單的部署通用算法,而是需要模型根據實時數據進行反饋和臨時決策,這就導致很多優化之后的方案在現場部署時還需要進行重新優化,有時候方案可能需要回溯到設計之初的階段,這對開發者而言是很大的打擊。

為了幫助各行業應對新時期邊緣AI的部署挑戰,讓NVIDIA AI專家的預測更好地從理念照進現實,NVIDIA提供了豐富的解決方案。NVIDIA Blackwell架構和基于該架構的計算平臺也為邊緣AI提供了充足的算力保障,克服邊緣AI的“算力不足恐懼癥”,為生成式AI和加速計算帶來突破性的進步。

wKgZPGeGOZKAPHbiAAHf8m2b92c199.png
Blackwell架構的技術突破,圖源:NVIDIA


NVIDIA為各行業的邊緣AI開發提供了豐富的開發資源、服務。面向智能機器人,基于NVIDIA Omniverse構建的Isaac Sim是一款參考應用,允許開發者在基于物理的虛擬環境中設計、模擬、測試和訓練基于AI的機器人和自主機器,在此過程中開發者可以選擇自定義模擬器,也可以選擇基于Isaac Sim現有技術構建方案。

wKgZPGeGOZ2AbHQgAAFdLbx_LT0355.png
NVIDIA Isaac Sim應用框圖,圖源:NVIDIA


面向物理AI,NVIDIA Omniverse平臺提供了各種APISDK和服務,可幫助開發者輕松將通用場景描述 (OpenUSD) 和RTX渲染技術集成到現有軟件工具和仿真工作流中,以構建這些3D環境。NVIDIA Omniverse是西門子、富士康等行業龍頭的共同選擇,可以幫助完成工廠的數字孿生,機器人的虛擬訓練空間搭建,以及幫助生產線進行自動光學檢測、物體識別、缺陷檢測和軌跡規劃等。

面向汽車自動駕駛技術開發,NVIDIA DRIVE Orin系統級芯片已經在各品牌車輛上廣泛搭載,同時基于NVIDIA Blackwell GPU架構的NVIDIA DRIVE Thor車載計算平臺已經成為車企更新下一代自動駕駛技術的首選平臺,賦能當前和未來主流的“AI定義汽車”。

wKgZO2eGOaiACzI_AAHoQPX3kLo274.png
NVIDIA DRIVE Thor車載計算平臺,圖源:NVIDIA


實際上,不僅是NVIDIA AI專家預測的這些應用,各種邊緣AI的實現都可以在NVIDIA找到合適的方案,包括計算平臺、虛擬空間、參考示例和核心技術等。同時,開發者也可以從云端獲取NVIDIA先進的AI技術,目前NVIDIA NIM微服務已經擴展到各項關鍵的亞馬遜科技AI服務中,包括NVIDIA Nemotron-4(先進的 LLM)、Llama 3.1 8B-Instruct(8B大語言模型)、Llama 3.1 70B-Instruct(70B大語言模型)和Mixtral 8x7B Instruct v0.1(專家模型)等。

結語

隨著AI大模型和算力逐漸下沉,2025年邊緣AI可謂是前景無限。正如NVIDIA機器人與邊緣計算副總裁Deepu Talla預測的那樣:在不久的將來,從手術室、數據中心到倉庫和工廠,機器人將無處不在。甚至交通控制系統,又或整個城市,也將從靜態、人工操作的系統轉變為基于物理AI的自主交互式系統。

但是需要注意到的是,邊緣AI的核心要義正在發生變化,已經初具具身智能的能力,可以和環境進行交互,這對整個邊緣系統提出了更高的要求。在應對這些設計挑戰時,NVIDIA的硬件和方案是開發者的得力幫手,推動邊緣AI方案的升級迭代。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    33558

    瀏覽量

    274283
收藏 人收藏

    評論

    相關推薦

    Deepseek海思SD3403邊緣計算AI產品系統

    海思SD3403邊緣計算AI框架,提供了一套開放式AI訓練產品工具包,解決客戶低成本AI系統,針對差異化AI 應用場景,自己采集樣本
    發表于 04-28 11:05

    一:如何利用非結構化數據中臺快速部署AI解決方案

    ……這些“非標”數據量大、來源廣、結構雜,卻恰恰是驅動AI模型的關鍵燃料。 ? 想要從零一,快速部署AI解決
    的頭像 發表于 04-14 13:50 ?135次閱讀

    AI Agent 應用與項目實戰》閱讀心得3——RAG架構與部署本地知識庫

    則將檢索的內容與原始查詢結合,生成最終響應。這種設計使得AI系統能夠突破訓練數據的限制,實現知識的動態更新。書中詳細介紹了RAG的完整工作流程:
    發表于 03-07 19:49

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......

    和并行計算能力,將AI模型(如CNN、LSTM、Transformer等)部署FPGA上,實現高效的數據預處理、實時推理和后處理。? 定制化解決
    發表于 03-03 11:21

    AI賦能邊緣網關:開啟智能時代的新藍海

    在數字化轉型的浪潮中,AI邊緣計算的結合正掀起一場深刻的產業變革。邊緣網關作為連接物理世界與數字世界的橋梁,在AI技術的加持下,正從簡單的數據
    發表于 02-15 11:41

    AI模型部署邊緣設備的奇妙之旅:目標檢測模型

    并非易事,它涉及選擇合適的算法架構針對特定硬件平臺進行優化等一系列復雜的工作。 接下來,我們將詳細介紹如何在資源受限的邊緣設備上成功部署
    發表于 12-19 14:33

    AI模型部署邊緣設備的奇妙之旅:如何實現手寫數字識別

    系統的智能化水平,還極大地拓展了其應用范圍, 使得嵌入式系統在智能家居、智能交通、智能醫療等領域有了更深層次的運用。AI技術的嵌入,已經成為
    發表于 12-06 17:20

    寧暢助推智算中心發展邁入新階段

    在“全局智算”戰略下,寧暢正式發布“全棧全液”AI基礎設施方案 ,在業內首先實現了“全棧全液”的智算中心建設能力,助推智算中心發展邁入新階段
    的頭像 發表于 11-07 11:18 ?487次閱讀

    邊緣計算的技術挑戰與解決方案

    邊緣計算作為一種新型的計算架構,在帶來諸多優勢的同時,也面臨著一些技術挑戰。以下是對邊緣計算的技術挑戰及相應解決
    的頭像 發表于 10-24 14:36 ?1320次閱讀

    手機行業AI競賽步入新階段:顛覆體驗提升

    自去年以來,手機行業掀起了一場生成式人工智能(AIGC)的競賽熱潮,各大廠商紛紛加大AI技術的研發力度。然而,經過近一年的發展AI手機已逐漸
    的頭像 發表于 10-23 11:36 ?594次閱讀

    AI汽車發展新階段、新要素、新挑戰

    隨著以AI大模型為代表的生成式AI技術的快速發展,汽車正進入AI發展
    的頭像 發表于 10-16 08:07 ?831次閱讀
    <b class='flag-5'>AI</b>汽車<b class='flag-5'>發展</b>的<b class='flag-5'>新階段</b>、新要素、新<b class='flag-5'>挑戰</b>

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    的深入發展。 3. 挑戰與機遇并存 盡管AI在生命科學領域取得了顯著的成果,但也面臨著諸多挑戰。例如,
    發表于 10-14 09:21

    AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得

    和數量直接影響模型的準確性和可靠性。因此,數據獲取、處理、分析和質量控制在AI for Science中至關重要。此外,數據驅動的研究范式也促使科學家
    發表于 10-14 09:16

    【HZHY-AI300G智能盒試用連載體驗】基建智慧工地物聯邊緣代理技術研究及應用

    基建施工現場大量的感知層設備需要一種區域集中式、全網分布式的網絡交互節點,實現企業級大數據的在線采集和反控,助力基建安全質量管理工作。 【項目計劃】 1、在AI300G智能盒上安裝Ubuntu操作系統
    發表于 07-16 17:14

    產品應用 | 小盒子跑大模型!英碼科技基于算能BM1684X平臺實現大模型私有化部署

    當前,在人工智能領域,大模型在豐富人工智能應用場景中扮演著重要的角色,經過不斷的探索,大模型進入到落地的階段。而大模型在落地過程中面臨兩大關
    的頭像 發表于 06-14 16:29 ?1066次閱讀
    產品應用 | 小盒子跑大模型!英碼科技基于算能BM1684X平臺實現大模型私有化<b class='flag-5'>部署</b>
    主站蜘蛛池模板: 奇米欧美成人综合影院 | 禁h粗大太大好爽好涨受不了了 | 一级一级一片免费高清 | 久草免费色站 | 黄色国产网站 | 国产成人精品曰本亚洲78 | 国产精品青草久久久久福利99 | 香蕉视频啪啪 | 热re99久久精品国产99热 | 日本大片免费观看视频 | 狠狠色丁香婷婷综合久久片 | 濑亚美莉iptd619在线观看 | 男女在线视频 | 天天射天天搞 | 亚洲 欧美 精品专区 极品 | 插插操操| 色九九| 午夜高清视频在线观看 | 在线观看视频免费入口 | 免费香蕉视频国产在线看 | 在线天堂中文在线网 | 午夜免费福利片观看 | 视色在线视频 | 五月婷婷激情综合 | 日本亚洲精品色婷婷在线影院 | 91视频免费网站 | 日日射夜夜 | 欲色网站 | 四虎影院的网址 | 国产精品久久久久久久久久免费 | 三级理论手机在线观看视频 | 国产伦精一区二区三区 | 性香港xxxxx免费视频播放 | 亚洲国产欧美视频 | 欧美视频免费一区二区三区 | 狠色网 | 国产美女精品一区二区三区 | 久久亚洲国产成人影院 | 久久男人视频 | 色片免费网站 | 一级做性色a爱片久久片 |