在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

解密PC的AI進化:AI大模型如何“壓”進PC?

知識酷Pro ? 來源:虎嗅APP ? 2024-01-16 15:40 ? 次閱讀

當地時間2024年1月9日,2024年國際消費電子展(CES 2024)在美國拉斯維加斯舉辦。AI for All成為CES大會的關鍵議題之一。在眾多展品當中,被視作個人大模型普惠第一終端的AI PC吸引眾多目光。全球最大的PC廠商聯想集團更是推出了包括Yoga Pro 9i,ThinkBook Plus Gen 5 Hybrid、全球首款商務AI PC ThinkPad X1 Carbon AI、ThinkCentre neo Ultra在內的一眾AI PC產品。那么這些初次登場的AI PC產品身上到底有什么黑科技呢?虎嗅與您一起走進2024CES,為您揭開AI PC神秘的面紗。

奔馳、寶馬、大眾紛紛把大語言模型接入車機系統,讓人能跟汽車自然對話。

三星給冰箱裝了個AI識別系統,可以識別食物品種和新鮮度。

LG推出了會問候早安、歡迎回家的家庭AI機器人。

在2024年的CES展上, AI熱度仍在持續,各家廠商都在喊AI for All,All in AI之類的口號。

然而對于普通的消費電子用戶來說,更關注的似乎還是停留在手邊的設備,比如作為我們生產力工具的電腦

AI PC是2024年CES展中最熱的詞之一,在數據中心業務上賺的盆滿缽滿的英偉達,也在本次展會上推出了多款聚焦個人、商用電腦的AI硬件產品和應用。包括RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super三款GPU,將大語言模型(LLM)的處理速度提升了5倍,將AI視頻生成速度提高了150%。

英偉達產品管理的高級總監Justin Walker在新聞發布會上強調:“我們已經銷售了超過1億塊RTX GPU,這為運行AI應用的個人電腦提供了堅實的硬件基礎。”

在PC終端方面,微軟在CES大會之前,就宣布將在新款Windows 11電腦上配備Copilot按鈕,這是一個專門用于調用現已融入其操作系統人工智能聊天機器人的功能。配備Copilot按鈕的首批設備預計將在本月完成上市。值得注意的是,Windows PC鍵盤布局上次的重大變革還是在30年前。

不過,在AI PC方面走的最靠前的當屬聯想。從2023年10月的全球TechWorld大會宣布了全線AI PC規劃后,僅幾個月時間,聯想就帶著多款AI Ready階段的AI PC產品亮相CES展。包括賦能創作過程的Yoga Pro 9i,全球第一臺可無縫切換筆記本電腦和平板電腦兩種模式的ThinkBook Plus Gen 5 Hybrid、全球首款商務AI PC ThinkPad X1 Carbon AI、新一代超小型ThinkCentre neo Ultra等。

無論是AI技術發展,還是PC市場趨勢,都預示著AI將會成為2024年的PC行業新的增長引擎。AI PC則成為了傳統PC廠商的新增長機會,甚至有可能打破依靠供應鏈和渠道驅動的業務模式,創造出全新的PC市場趨勢和發展模式。

技術大揭秘:把AI裝進PC

大模型的通用性、泛化能力都是來自于模型的參數量,從AI大模型熱潮爆發至今,模型的參數量不斷擴大,對算力的需求也在直線上漲。由此AI需要云端算力,幾乎成了業界共識,很多人認為脫離了云服務器的AI PC很難把模型的能力發揮好。

然而,對于個人和商業用戶來說,純粹的云端AI也并不是萬能的。隨著AI技術的發展和應用場景的多樣化,依賴云端AI處理大量數據、提供服務的模式正逐步顯現出局限性。

目前的AI云服務主要面臨三個比較明顯的挑戰:成本、安全和響應速度。

而結合云端AI和AI PC類產品的優勢,構建的云端+本地的AI模式,很可能會成為未來AI的發展趨勢。通過這種模式,大型AI模型可以在云端進行復雜的數據分析和學習,而端側AI則負責實時、低延遲的任務處理。這種協同工作模式不僅能夠彌補單一模式的不足,還可以在保證處理效率的同時,確保用戶數據的隱私和安全。

那么,要把云端那些需要英偉達A100、H100顯卡才能跑起來的AI大模型,“拖到”小小的個人電腦中,應該怎么做呢?

聯想的做法是對大模型進行“壓縮”。

AI大模型通常涉及復雜的數據結構(如神經網絡的權重矩陣)。這些結構需要頻繁地在計算過程中修改和訪問,所以在訓練和推理過程中需要占用大量內存空間。

以GPT-3為例,它有1750億個參數。通常情況下,這些參數以32位浮點數(即float32)的形式存儲。在32位浮點數中,每個參數需要4字節的存儲空間。換算成更常見的單位,這大概相當于700GB。

目前參數量較小的主流AI大模型多位70億參數或130億參數,這些“小”模型需要的存儲空間,大約也要20GB以上。個人、辦公電腦上要運行這些模型,相當困難。

“我們現在做的技術就是如何把這個存儲的這些空間降低之后,還能保持原有的模型性能。”聯想研究院研究員謝棟介紹說。

聯想基于阿里通義千問的7B模型重新做了一個新的模型,在參數量不變的情況下對模型的“體積“進行了大幅度的壓縮,謝棟告訴虎嗅:”可能原來一個參數用兩個字節來存儲,經過壓縮,一個參數只有半個字節就可以存儲。“

阿里通義千問7B模型的原始大小是14.4GB,在聯想的Lenovo AI now中運行的模型則壓縮到了4GB。由此,AI大模型+電腦本身的緩存,大概只要5-6G內存就能運行起來。而目前,聯想的主流集成顯卡筆記本電腦內存都在16G以上,獨立顯卡的游戲本、高性能本顯存都在8G以上,可以輕松運行壓縮后的通義千問7B模型。

現在的AI與傳統的軟件不一樣,不是所有的芯片都能跑。AI與硬件之間還有一個中間層叫framework。目前,聯想的AI PC正在做的事就是定制自己的framework。

“中間層是決定他能在這樣的硬件基礎上跑的,第一要能跑,第二還要跑得好”聯想全球中小企業產品與解決方案總經理鄭愛國告訴虎嗅,“目前我們的專家每天都在和AMDIntel的專家溝通,對他們最新的平臺和芯片一個一個地調優,是其能最大限度地適合AI PC的工作和任務。”

目前聯想研究院在這個“中間層”的研發工作中擔任重要角色,除此之外,聯想對AI PC的研發采用了多元化布局。目前最主要的研發任務主要集中在中國和美國。在日本、巴西,以及印度也都有研發分布。聯想集團董事長兼CEO楊元慶表示:“創新還有研發一直以來都是聯想兩個重要的核心能力之一。我們的研發經費在過去幾年一直在提升,從不到3%到大概已經4%以上。”

如何用AI PC打出區隔

正在拉斯維加斯舉辦的2024 CES展上,聯想展出了ThinkBook 16P、ThinkPad P1、ThinkPad P16、ThinkBook 13x等多款AI Ready的產品。這些產品的推出,不僅是技術進步的展示,也是聯想在AI PC領域策略的體現。

聯想集團執行副總裁兼中國區總裁劉軍表示:“我們的AI PC目前處在AI Ready的階段,在2024年4月的聯想中國創新科技大會(TechWorld)上,我們將正式宣布我們的個人Agent。”這一聲明表明,聯想正將AI PC技術與個人助理功能結合,推動AI技術在個人電腦領域的深入應用。

在AI PC的硬件方面,聯想計劃推出CPU+GPU+NPU的混合AI模式,這種模式可以提高計算效率,優化AI應用的性能。NPU(神經網絡計算單元)的引入是對傳統CPU和GPU功能的補充,能夠更加專注于處理AI相關的任務。這種混合硬件布局不僅適用于PC,也將應用于手機、平板等多種設備,甚至擴展到商業環境和AIOT(AI驅動的IoT)產品。

在軟件生態方面,聯想的戰略是改變傳統PC行業甚至是消費電子產品的交互邏輯,從應用交互轉向意圖交互。這一轉變預示著未來的交互方式將更加直觀和自然。用戶不再需要通過復雜的菜單和步驟來執行任務,而是可以直接通過意圖來與設備互動。這種基于意圖的交互方式能夠大大提高用戶體驗,使設備更加智能和易用。

在探索這些新領域的同時,對于其他廠商而言,如何在AI PC市場中尋找自己的定位和特色,是一個值得思考的問題。例如,其他廠商可能會在特定的垂直領域內進行深耕,如專注于創意工作的AI應用,或者在安全性、隱私保護方面進行創新。同時,不同廠商可能會選擇不同的技術路徑或合作伙伴,以尋找差異化的市場機會。

對于整個PC行業來說,AI PC的發展是一個多維度的過程,涉及硬件、軟件、用戶體驗和生態系統等多個層面。聯想作為先行者,在AI PC方向上自然會占據一定的先發優勢,不過在創新產品的開發,以及AI技術的發展過程中,勢必也會遇到各種不確定的問題。

從行業趨勢來看,AI PC的未來可能不僅僅局限于個人電腦,而是會擴展到整個智能終端生態系統,包括智能家居、智能汽車等領域。這種趨勢下,廠商之間的競爭將不僅僅是硬件和軟件的競爭,更是對整個生態系統的理解和布局的競爭。

PC市場的拐點

IDC在2023年底發布的《全球季度個人計算設備跟蹤報告》指出,鑒于當前的經濟環境和市場狀況,對全球PC市場的預測被下調。預計2023年的出貨量將比2022年下降13.8%,而2022年的出貨量則比上年下降了16.6%。這種連續兩年的兩位數同比下降在個人電腦市場是前所未有的。不過這種“衰退”趨勢可能正在為市場的后續復蘇鋪平道路。

IDC認為,疫情期間售出的PC產品大多將在2024年面臨Windows更新周期。此外,一些失去微軟服務支持的舊版Windows系統,將面臨2024年升級至Windows 11的壓力。

這些因素在短期將會促進2024年PC市場的增長。而從長遠來看,PC市場更大的增長動力則很可能源自AI PC帶來的革命性升級。

聯想集團執行副總裁、智能設備業務集團總裁Luca Rossi在CES期間接受采訪時表示:“2023年市場確實遭遇了一些壓力。對于2024年全球市場的趨勢我們保持謹慎樂觀的態度,預見會有少量的增長。我們也樂觀地認為,在2024年下半年和2025年,AI PC將在消費和商用市場掀起廣泛的換機潮。人工智能電腦將成為轉折點,加速更換周期。”

雖然目前全球PC市場中,僅有聯想一家在大舉落地AI PC,但其它PC行業巨頭也都在對AI PC概念保持高度關注。HP和Dell的高管在近期的采訪中都表示AI PC必將大幅提升PC的升級換代潛力表示肯定,HP Personal Systems部門總裁Alex Cho認為:AI PC或有望幫助PC行業增長率翻倍。

盡管面臨短期挑戰,IDC預計2024年及以后的市場將會出現反彈。預計2024年PC市場總量將比2023年增長3.4%,這得益于AI PC對市場升級起到的催化作用。初步針對企業PC市場的某些細分市場,隨著用例的進一步發展和成本的降低,AI PC可能會推動更廣泛的市場應用。

同時,IDC認為2024年將是PC市場的關鍵一年,為市場近期的挑戰提供了喘息機會。預計2024年之后,出貨量的增長將超過大流行前的水平,在2027年達到2.85億臺的峰值。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • PC
    PC
    +關注

    關注

    9

    文章

    2104

    瀏覽量

    154680
  • 人工智能
    +關注

    關注

    1796

    文章

    47683

    瀏覽量

    240311
  • 大模型
    +關注

    關注

    2

    文章

    2551

    瀏覽量

    3172
  • AI大模型
    +關注

    關注

    0

    文章

    320

    瀏覽量

    349

原文標題:解密PC的AI進化:AI大模型如何“壓”進PC?

文章出處:【微信號:ZHISHIKU-Pro,微信公眾號:知識酷Pro】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    CPU\GPU引領,國產AI PC進階

    電子發燒友網報道(文/黃晶晶)當前AI PC已經成為PC產業的下一個浪潮,國產CPU、GPU廠商在PC市場一直處于追趕態勢,AI
    的頭像 發表于 09-01 02:15 ?5205次閱讀
    CPU\GPU引領,國產<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>進階

    NVIDIA推出面向RTX AI PCAI基礎模型

    NVIDIA 今日發布能在 NVIDIA RTX AI PC 本地運行的基礎模型,為數字人、內容創作、生產力和開發提供強大助力。
    的頭像 發表于 01-08 11:01 ?245次閱讀

    中科創達旗下創通聯達推出四款AI Mini PC參考設計

    近日,CES2025盛會即將拉開帷幕之際,中科創達旗下創通聯達宣布推出四款AI Mini PC參考設計——AI Mini PC G1 Elite、A
    的頭像 發表于 01-06 10:33 ?202次閱讀

    高通驍龍X Elite平臺引領AI PC發展

    隨著生成式AI的迅猛發展,人工智能技術正在賦能更豐富的用例,為各行各業的發展變革提供新思路。在這場數字化浪潮中,AI PC成為了PC行業的關鍵轉折點。面對全新的
    的頭像 發表于 12-18 15:09 ?406次閱讀

    AI PC的崛起

    的發展,市場趨于飽和。到2010年,大多數人都擁有臺式機、筆記本電腦或平板電腦。2015年前后,PC市場陷入停滯,全球PC銷量停滯不前。 到了2024年,在推出內置AI PC的推
    的頭像 發表于 11-14 11:06 ?541次閱讀

    2026年AI PC市場將占Windows PC半壁江山

     根據最新市場研究機構Canalys的權威預測,人工智能(AI)個人電腦(PC)在Windows PC市場的滲透率正經歷前所未有的飛躍。該機構預計,從當前的不足10%起步,AI
    的頭像 發表于 09-06 16:09 ?878次閱讀

    AI PC:真正的AI PC,敢于下場

    在過去的半年里,我們無一不在聆聽關于人工智能(AIPC的種種聲音,然而當步入現實生活時,恐怕仍有眾多讀者對此感到迷茫:這些AI PC究竟具有哪些A
    的頭像 發表于 06-11 15:02 ?775次閱讀

    實測NPU“空轉”,AI PC首個落地應用只調用GPU?

    AI PC的一大特征是在傳統PC的CPU+GPU基礎上,增加NPU加強AI 算力。不過有意思的是,最近某品牌PC機型上的
    的頭像 發表于 05-22 00:16 ?3295次閱讀

    AI PC來了!YOGA AI PC系列新品亮相聯想創新科技大會

    應用。個人智能體聯想小天正式亮相,同時被稱為AI新物種的搭載聯想小天的AI PC產品也同步發布,主要包括YOGA Book 9i AI元啟、YOGA Pro 16s
    的頭像 發表于 04-18 18:45 ?1260次閱讀
    真<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>來了!YOGA <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>系列新品亮相聯想創新科技大會

    英特爾發布AI PC加速計劃,確立AI PC新標準

    同時,英特爾也自定了更為簡化的AI PC定義,即CPU、GPU和NPU均應具備專屬AI加速能力,這恰恰反映了其最新力作Meteor Lake及其后繼產品的設計理念。按照這種設計,不同組件可根據需求靈活分配
    的頭像 發表于 03-27 10:10 ?491次閱讀

    聯想4月18日發布AI PC新品,引領AI PC時代

    聯想觀點,適應未來趨勢,PC產業即將步入基于大模型技術的AI PC階段,引領PC市場進入第三個重要代際更迭。于是,
    的頭像 發表于 03-21 15:28 ?836次閱讀

    AI PC產品密集發布,預計2025年AI PC占全球PC出貨量40%

    電子發燒友網報道(文/李彎彎)根據市場機構Canalys近日發布的最新報告,2024年標志著傳統PCAI PC的重大轉變,預估今年全球AI PC
    的頭像 發表于 03-20 01:15 ?4034次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>產品密集發布,預計2025年<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>占全球<b class='flag-5'>PC</b>出貨量40%

    AI PC的市場預測與發展趨勢

     為了滿足這一需求,當前像英特爾這樣的廠商已經推出配備了專用AI加速單元(如NPU)的PC處理器產品。他們期待AI PC能夠提升工作效率、提供個性化服務。
    的頭像 發表于 03-19 15:30 ?780次閱讀

    防止AI模型被黑客病毒入侵控制(原創)聆思大模型AI開發套件評測4

    在設計防止AI模型被黑客病毒入侵時,需要考慮到復雜的加密和解密算法以及模型的實現細節,首先需要了解模型的結構和實現細節。 以下是我使用P
    發表于 03-19 11:18

    新火種AI|全網熱炒的“AI PC”,可能是個偽概念

    ,英特爾CEO帕特·基辛格在硅谷首次提出了AI PC的概念。 英特爾認為,所謂AI PC,就是能玩轉AI功能的
    的頭像 發表于 02-18 14:25 ?564次閱讀
    新火種<b class='flag-5'>AI</b>|全網熱炒的“<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>”,可能是個偽概念
    主站蜘蛛池模板: 国产巨大bbbb俄罗斯 | 色系视频在线观看免费观看 | 一级特黄特黄xxx视频 | 一区二区手机视频 | 国产精品免费看久久久香蕉 | 性夜影院爽黄a爽免费视频 性瘾高h姚蕊全文免费阅读 | 天天摸日日添狠狠添婷婷 | 天天操夜夜夜 | 日韩黄色网| 亚洲综合狠狠 | sihu国产午夜精品一区二区三区 | 美女网站一区二区三区 | 午夜精品久久久久久久2023 | 一级片一级片一级片 | 中文字幕第一 | 国产精品色片 | 国产成人综合日韩精品婷婷九月 | 天堂在线免费视频 | 色无欲天天天影视综合网 | 在线观看国产日本 | 天天夜约 | 欧美乱妇高清无乱码 | 台湾一级毛片 | 色噜噜狠狠狠综合曰曰曰 | 黄色尤物| 欧美私人网站 | 中文字幕一区二区三区不卡 | 在线三级播放 | 精品欧美一区二区三区在线观看 | 日本一卡二卡3卡四卡网站精品 | 日本伊人网 | 国产黄视频在线观看 | 欧美激情 自拍 | 日韩在线视频免费观看 | 色婷婷视频在线观看 | 一级特色黄色片 | 美女又黄又免费的视频 | 欧美激欧美啪啪片免费看 | 一卡二卡≡卡四卡亚洲高清 | 中文在线1区二区六区 | 久久精品男人影院 |