9月10日凌晨1點,蘋果新品發布會如期舉行,全新iPhone16系列成為蘋果生態中真正意義上的第一款原生AI手機,在第二代3nm工藝A18和A18 Pro芯片的加持下,iPhone16系列能夠容納并快速運行以Apple Intelligence為中心的生成式AI功能在手機端側運行。用庫克的話說:“新一代iPhone徹徹底底為Apple Intelligence打造”。
本次發布會的主要亮點除蘋果新增的相機控制按鈕外,主要集中在蘋果對AI生態的全面構建方面。在理解蘋果發布會的新功能之前,先帶大家回顧一下蘋果在生成式AI方面的主要成果。
具體來說,蘋果開發了兩種全新基礎語言模型,構成了蘋果Apple Intelligence的核心:一個是可以在蘋果云服務器中運行的較大參數的大語言模型(LLM),稱為AFM-server,專為密集型任務設計,并使用私人云計算(Private Cloud Compute)的系統來保護用戶數據;另一個是端側小語言模型(SLM)AFM-on-device,大約有30億參數,通過對大語言模型進行剪枝、蒸餾,并通過精選的高質量數據訓練和架構調整而來,優化后可以在iPhone和其他終端設備上運行,具備更高效率和響應能力。
蘋果為何可以稱為重新定義了AI手機?
蘋果的AI戰略通過整合操作系統、軟件、模型和數據,強化了對應用場景的理解,訓練出了能夠深刻洞察用戶需求并幫助用戶決策的AI Agent。
簡單來講,相較于各類傳統的生成式AI應用工具,蘋果將AI功能融合到用戶使用手機的每一個環節,通過手機端側運行的小語言模型能力讓智能手機真正成為日常生活、辦公、娛樂的私人管家,它會收集整理手機端本地的各類信息,在用戶使用或有需要時主動提供建議或直接幫助實現。
并且因為其端側模型在本地運行的特性,可以充分保護用戶的隱私信息安全、提升信息反饋效率。可以說每一個搭載了AI功能的蘋果手機都是一個獨立的個體。
為何大廠們最終選擇了端側AI賽道?
在大語言模型產品的實際應用中,從業者們逐漸意識到大模型存在產品訓練成本高、算力需求高、資源消耗大等難點,以及應用適配性差、網絡傳輸不穩定等缺點。在此背景下,AI模型的發展正在著力擺脫網絡、參數的多方限制,努力向更簡單、更小體量,為應用場景量身定制和跨應用生態的智能化轉變。
在端側AI的實際應用方面,2023年3月谷歌推出參數規模達5620億的PaLM-E的大模型,并在同年10月發布搭載Google AI基礎功能的Pixel 8系列手機。2023年11月,vivo發布1750億規模的自研藍心大模型,落地終端側70億參數大語言模型;2024年9月6日,榮耀CEO趙明在2024德國柏林消費電子展IFA上面向全球推出行業首個跨應用開放生態AI Agent。
不難看出,端側小模型將成為未來智能手機乃至各類智能終端的語言模型應用樣本。IDC(國際數據公司)預計2024年全球新一代 AI 手機的出貨量將超過1.7億部,約占智能手機整體出貨量的15%,Counterpoint預計2027年出貨量達到5.22億部,滲透率達到40%。從大廠們的選擇不難看出,隨著端側算力的提升,端側AI成為大模型終端落地的最優解,模型語言與應用生態融合發展的AI Agent成為未來的趨勢。
隨著軟硬件技術的高速發展,相信除智能手機外,各類IoT終端產品也將逐步落地端側AI,相關硬件算力和通信交互需求也將持續增長。
美格智能持續加碼高算力AI模組研發
與行業伙伴共建端側AI新生態
洞察到端側AI的優勢和廣闊前景,美格智能圍繞高算力、大帶寬、低功耗、廣鏈接,打造多款高算力AI模組產品,為端側小語言模型落地提供12Tops~48Tops算力支持。
在模組強大算力的支持下,不僅能夠在模組上成功運行Stable Diffusion、LLaMA-2、通義千問Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna等大模型產品,展現出卓越的邊緣端大模型部署能力,同時模組產品豐富的外圍接口,能夠以AI模組的形式將語音識別、機器視覺、導航、定位、避障和多模態技術通過各種傳感器植入到終端側,幫助終端產品快速收集和整合信息,打造不斷學習進步的智能“大腦”,助力客戶快速實現端側AI落地應用,節約開發成本。
同時,面對端側AI與物聯網生態融合發展的新趨勢,美格智能以智能車載為切入打造端云協作的智能物聯網解決方案。以美格智能在2023年即已發布的車規級5G R16/R17 + C-V2X系列模組為例,該模組具備的5G通信能力和高算力成為端側+云端結合的混合式AI的落地形式之一,可廣泛應用于AI Agent智能座艙、高階輔助駕駛、無人駕駛、車路云一體化相關領域。
在通信方面,相關模組產品符合3GPP Release 16/17標準,支持5G NR 獨立組網(SA)和非獨立組網(NSA),兼容全球主流國家和地區的頻段,支持選配C-V2X功能,使用全球統一的ITS 5.9GHz頻段部署V2X應用,可采用PC5 Mode4模式直連通信,內置ECDSA硬件引擎,可實現高達6000次/秒的C-V2X驗簽性能,具備在高速移動環境中提供遠距離傳輸、大帶寬、低延時連接的優越性能;在算力方面,模組內置多核心CPU處理器,最大支持22K的算力,在充足算力的支持下,車輛可基于C-V2X構建網聯智能,實現由端側車載計算、路側邊緣計算和中心云計算構成的分級、網絡化智能決策與控制,快速進行如車輛碰撞預警、車速引導、紅綠燈信息獲取等應用。
端側AI是大模型技術落地的最優解,而端側AI與云側大模型協同的混合式AI被行業從業者稱為“大模型時代的終極范式”,充分適配智能座艙、智能機器人、手持終端、AR/VR眼鏡等產品,成為人工智能落地應用的新方向。同時混合式AI生態的發展又對終端的無線通信能力和算力提出了新的要求,集成了4G/5G 通信能力和高算力芯片以及眾多功能接口的智能模組和高算力AI模組,或將成為智能終端廠商們的首選。
從蘋果的選擇來看,隨著端側算力的不斷增長和大模型技術的持續演進,終端側AI與混合式AI或許將成為大模型時代的最終選擇。美格智能也將持續不斷推出高算力模組和智能模組解決方案,以模組+解決方案雙輪驅動,支持更廣泛的垂直領域和合作伙伴共同引領生態發展,以先進的無線通信和AI技術加快實現萬物智聯的美好愿景。
-
iPhone
+關注
關注
28文章
13484瀏覽量
202587 -
Apple
+關注
關注
1文章
933瀏覽量
52961 -
AI
+關注
關注
87文章
31711瀏覽量
270494
發布評論請先 登錄
相關推薦
評論