在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

實測NPU“空轉”,AI PC首個落地應用只調用GPU?

Hobby觀察 ? 來源:電子發燒友 ? 作者:梁浩斌 ? 2024-05-22 00:16 ? 次閱讀

電子發燒友網報道(文/梁浩斌)去年開始,整個PC產業鏈,自上而下地都在為AI PC造勢。從處理器端的英特爾、AMD高通等開始,到下游終端廠商,宣傳上清一色的AI PC概念。

從概念上看,硬件上AI PC的一大特征是在傳統PC的CPU+GPU基礎上,增加NPU加強AI 算力。不過有意思的是,最近某品牌PC機型上的AI助手率先落地,支持云端和本地運算兩種模式,確實能夠完成宣傳上的很多功能。然而在實測本地大模型時,卻沒有調用NPU算力,完全是使用GPU進行運算。

所以實際上,NPU目前為止依然是“空轉”的狀態,過去的“傳統”PC,理論上似乎也能夠使用“AI PC”上的最新功能。那么AI PC中NPU還是一個必要存在嗎?

AI PC發展的三個階段

確實,GPU在AI大模型上有很強的適配性,一直以來,很多開源大模型都能夠在家用電腦上部署,利用GPU的算力進行推理。在AI PC的大模型剛剛落地時,使用GPU算力是最為穩妥以及最快的方式。

此前聯想集團副總裁張華在發布會上提到,成熟的AI PC需要包括五大條件。其中包括標配CPU+GPU+NPU的本地混合AI算力;內嵌由本地大模型和個性化本地知識庫構成的個人大模型;配備本地化個人數據和隱私保護方案;開放的AI 應用生態;內嵌個人Agent(模擬人類行為或指揮的AI程序),多模態自然語言成為主要的交互方式。

他還認為AI PC會有三個發展階段,第一階段是從2023年12月到2024年4月,這個階段被稱為“AI Ready”階段,這個階段特點是硬件平臺的支持CPU+GPU+NPU的混合AI算力,滿足終端廠商和第三方應用開發者進行終端AI體驗創新。說白了,就是硬件要滿足AI需求,軟件先畫餅。

第二階段是2024年4月到2024年9月的AI Explore階段。在這個階段中,AI Ready的硬件,能夠用上個人Agent、個人大模型嵌入AIPC、首批第三方AI應用接入AI小程序平臺等,并能夠運用CPU+GPU+NPU的混合AI算力,提供基于自然語言交互的個人AI助理服務。

第三階段是24年9月之后的AI Master/AI Advanced階段。在這個階段,首先硬件的混合AI算力持續提升,同時個人大模型的能力進一步提升,AI應用生態大為豐富、商業模式進一步多樣化,個人Agent的場景服務范圍進一步擴大、服務體驗進一步升級,個人AI助理進入隨用戶使用和體驗反饋而快速進階之路。

所以,AI PC新增的NPU,只是混合算力中的一部分。從算力來看,NPU可以算得上是“戰未來”的硬件,而實際AI能夠帶來哪些顛覆性的體驗,才是AI PC的關鍵。

AI PC有哪些應用了?

目前的AI大模型,普遍是采用云端推理,這很大程度上是由于大模型數據體量巨大,無法部署在本地。而AI PC的概念中,本地大模型就是與目前常見的云端大模型有很大差異的地方。

從個人隱私的角度來看,本地大模型由于數據不上云,所以數據安全性更高,對于一些有保密需求的工作來說可以說是提高工作效率的剛需。

比如用戶可以通過本地大模型,讀取本地文檔,并使用自然語言交互來快速找到文檔中所需的信息。還可以通過自然語言交互,來完成修改電腦設置等操作,降低Windows操作系統使用門檻,畢竟很多選項都藏得比較深。

另外,還可以通過上傳足夠多的文檔,構建一個自己的數據庫,需要搜索資料或數據時,就可以通過本地的AI助手快速搜索到目標。

最近微軟的發布會上,又推出了一個“Copilot+ PC”概念,核心是AI算力+AI Agent( Copilot )。

在微軟的展示中,任何東西都能夠往Copilot上拖動,并讓其分析、總結。當然,AI圖片編輯、生成等功能已經是AI大模型的標配了,而微軟為windows加入的AI賦能功能中,還有可以稱之為“殺手锏”的。

比如AI能夠實時讀取屏幕顯示的所有信息,比如在玩游戲時,可以直接詢問AI來獲得攻略,AI甚至能理解游戲中的參數、物品等,從而給出相應的策略。

Recall則是令電腦擁有了類似于“時光機”的能力,AI能力的幫助下,Copilot+ PC可以訪問電腦上任何看過或者運行過的操作,甚至可以憑借記憶,描述在某個網站上見過圖片,AI就能夠幫助找出相應的頁面截圖。而這是基于本地算力以及存儲所實現的,能夠保障用戶隱私。

小結:

AI PC的概念雖然值得考究,但AI的應用要落地在PC上,硬件和軟件都無法單獨拿出來討論,AI應用與硬件的結合隨著需求提高只會越來越緊密。這樣的情況下,NPU的存在形式,發展方向,以及應用的適配,未來將會有更多的可能性。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4785

    瀏覽量

    129408
  • NPU
    NPU
    +關注

    關注

    2

    文章

    292

    瀏覽量

    18806
  • AI大模型
    +關注

    關注

    0

    文章

    322

    瀏覽量

    355
  • AI PC
    +關注

    關注

    0

    文章

    124

    瀏覽量

    285
收藏 人收藏

    評論

    相關推薦

    CPU\GPU引領,國產AI PC進階

    電子發燒友網報道(文/黃晶晶)當前AI PC已經成為PC產業的下一個浪潮,國產CPU、GPU廠商在PC市場一直處于追趕態勢,
    的頭像 發表于 09-01 02:15 ?5220次閱讀
    CPU\<b class='flag-5'>GPU</b>引領,國產<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>進階

    40+TOPS NPUAI PC處理器開卷算力

    的人工智能任務。同時,微軟還提出,這款全新電腦搭配擁有全新神經處理單元NPU的芯片,可實現每秒超過40萬億次即40+TOPS的運算。那么也就是說,若要符合微軟給出的AI PC的定義,NPU
    的頭像 發表于 07-14 01:11 ?5019次閱讀
    40+TOPS <b class='flag-5'>NPU</b>,<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>處理器開卷算力

    NPU技術如何提升AI性能

    設計的處理器,與傳統的CPU和GPU相比,它在執行深度學習任務時具有更高的效率和更低的能耗。NPU通過專門優化的硬件結構和指令集,能夠更快地處理神經網絡中的大量并行計算任務。 1. 優化硬件架構 NPU技術通過優化硬件架構來提升
    的頭像 發表于 11-15 09:11 ?757次閱讀

    什么是NPU芯片及其功能

    在人工智能(AI)技術迅猛發展的今天,NPU芯片已經成為推動這一領域進步的關鍵技術之一。NPU芯片,即神經網絡處理單元,是一種專門為深度學習算法設計的硬件加速器。 一、NPU芯片的概念
    的頭像 發表于 11-14 15:48 ?2791次閱讀

    NPUGPU的性能對比

    它們在不同應用場景下的表現。 一、設計初衷與優化方向 NPU : 專為加速AI任務而設計,包括深度學習和推理。 針對神經網絡的計算模式進行了優化,能夠高效地執行矩陣乘法、卷積等操作。 擁有眾多小型處理單元,配備專門的內存體系結構和數據流優化策略,對深度學習任務的處理特別高
    的頭像 發表于 11-14 15:19 ?2066次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    、GPUNPU,給我們剖析了算力芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解算力芯片。 全書共11章,由淺入深,較系統全面進行講解。下面目錄對全書內容有一個整體了解
    發表于 10-15 22:08

    什么是NPU?什么場景需要配置NPU?

    在人工智能(AI)技術如火如荼的今天,NPU神經處理單元(Neural Processing Unit)作為一種新興的硬件加速器,正在成為ARM主板配置中的新寵。與傳統的CPU和GPU相比,N
    的頭像 發表于 10-11 10:13 ?2699次閱讀
    什么是<b class='flag-5'>NPU</b>?什么場景需要配置<b class='flag-5'>NPU</b>?

    名單公布!【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構分析

    和像素統一的G80到現在重金難求的H100;AMD的Zen系列CPU和RDNA系列GPU兩線作戰;中國的高性能計算芯片逐步獲得更多TOP500排名;華為Ascend 910 NPU芯片也成為AI時代
    發表于 09-02 10:09

    刷新AI PC NPU算力,AMD銳龍AI 9 HX 375領銜55 TOPS

    電子發燒友網報道(文/黃晶晶)最近AMD官網上線了銳龍AI 300系列中的最新成員銳龍AI 9 HX 375處理器。原本Ryzen AI 9 HX 370的NPU達到了50 TOPS,
    的頭像 發表于 08-07 00:28 ?3727次閱讀
    刷新<b class='flag-5'>AI</b> <b class='flag-5'>PC</b> <b class='flag-5'>NPU</b>算力,AMD銳龍<b class='flag-5'>AI</b> 9 HX 375領銜55 TOPS

    AI PC引發的NPU大戰?英特爾:僅30%開發者選擇NPU

    隨著COMPUTEX 2024的日益臨近,關于人工智能(AI)個人計算機(PC)的話題開始變得愈發熱門和受關注。據微軟公司近期發布的相關技術規范要求,所有運行Windows操作系統的AI PC
    的頭像 發表于 06-03 17:24 ?931次閱讀

    英特爾發布AI PC加速計劃,確立AI PC新標準

    同時,英特爾也自定了更為簡化的AI PC定義,即CPU、GPUNPU均應具備專屬AI加速能力,這恰恰反映了其最新力作Meteor Lake
    的頭像 發表于 03-27 10:10 ?493次閱讀

    AI PC需求推動內存升級,64GB內存將開始出貨

    隨著人工智能技術突飛猛進,AI PC將成為個人電腦發展新趨勢,用戶們可在本地進行深度的人工智能計算,不再依賴于云端服務。這無疑對PC的硬件性能有著更為嚴格的要求。目前各大CPU企業已針對AI
    的頭像 發表于 03-21 11:35 ?657次閱讀

    AI PC的市場預測與發展趨勢

     為了滿足這一需求,當前像英特爾這樣的廠商已經推出配備了專用AI加速單元(如NPU)的PC處理器產品。他們期待AI PC能夠提升工作效率、提
    的頭像 發表于 03-19 15:30 ?792次閱讀

    高通NPU和異構計算提升生成式AI性能?

    異構計算的重要性不可忽視。根據生成式AI的獨特需求和計算負擔,需要配備不同的處理器,如專注于AI工作負載的定制設計的NPU、CPU和GPU。
    的頭像 發表于 03-06 14:15 ?909次閱讀

    簡單三步在Windows上調用低功耗NPU部署AI模型

    相信很多小伙伴都已經知道,在最新一代的英特爾 酷睿 Ultra 移動端處理中已經集成了被稱為 NPU 的神經網絡加速處理器,以提供低功耗的 AI 算力,特別適合于 PC 端需要長時間穩定運行的
    的頭像 發表于 02-22 17:17 ?6786次閱讀
    簡單三步在Windows上<b class='flag-5'>調用</b>低功耗<b class='flag-5'>NPU</b>部署<b class='flag-5'>AI</b>模型
    主站蜘蛛池模板: 免费人成网ww44kk44 | 一级待一黄aaa大片在线还看 | 免费欧美 | 99久久免费午夜国产精品 | 狠狠干夜夜操 | 国内一国产农村妇女一级毛片 | 最新日本免费一区二区三区中文 | 美女扒开尿口给男人桶爽视频 | 亚洲成人午夜影院 | 丁香婷婷综合五月六月 | 天天摸天天操天天射 | 色综合天天综一个色天天综合网 | 五月天婷五月天综合网在线 | 亚洲精品久久久久午夜 | 久久免 | 国产免费爽爽视频免费可以看 | 日本高清中文字幕在线观穿线视频 | 在线观看s色 | 黑人黑粗硬视频 | 黄色大片aa | 男人的天堂222eee | 国产精品久久国产三级国不卡顿 | 国产精品天天影视久久综合网 | 久久青草18免费观看网站 | 成人国产在线24小时播放视频 | 欧美性猛交ⅹxxx乱大交免费 | 四虎影视永久地址 | 全免费午夜一级毛片真人 | 天天操免费视频 | 午夜影院免费体验 | 男女交性视频免费播放 | 国产三级在线免费 | 69国产成人精品午夜福中文 | 欧美在线视频看看 | 国产在线精品一区二区夜色 | 天天操天天干天天操 | 精品久久成人 | 天天综合视频网 | 狠狠色网站 | 日本高清色视频在线观看免费 | 最近最新视频中文字幕4 |