要點
?高通和Meta合作優化Meta Llama 3大語言模型,支持在未來的驍龍旗艦平臺上實現終端側執行。
?開發者將能夠訪問高通AI Hub中的資源和工具,以實現在驍龍平臺上優化運行Llama 3,從而縮短產品上市時間并充分發揮終端側AI的優勢。
?高通技術公司的終端側AI能力包括行業領先的NPU、CPU和GPU技術組合,賦能生成式AI應用實現即時性、增強的可靠性、隱私性、情境感知個性化和成本效益。
今日,高通技術公司和Meta宣布合作,以優化Meta Llama 3大語言模型(LLM)直接在智能手機、PC、VR/AR頭顯和汽車等終端上的執行。在終端側運行Llama 3具有顯著優勢,包括出色的響應能力、增強的隱私性和可靠性,以及為用戶帶來更加個性化的體驗。
高通技術公司高級副總裁兼技術規劃和邊緣解決方案業務總經理馬德嘉(Durga Malladi)表示:
我們贊賞Meta針對Meta Llama 3的開放策略,高通和Meta都致力于賦能開發者,激發AI創新。高通的終端側AI領導力,結合跨不同邊緣終端的廣泛市場布局,使我們能夠在全球范圍內擴大Llama生態系統優勢,賦能客戶、合作伙伴和開發者打造新一代開創性AI體驗。
此次合作旨在賦能OEM廠商和開發者,在搭載未來旗艦驍龍平臺的終端上支持Llama 3,推動生成式AI功能的普及。高通技術公司強大的異構計算能夠無縫利用行業領先的CPU、GPU和NPU處理器,并結合先進的內存架構,賦能客戶、合作伙伴和開發者實現最佳應用性能、能效和電池續航。
開發者可通過高通AI Hub訪問相關資源和工具,以實現在驍龍平臺上優化運行Llama 3。高通AI Hub目前可提供約100個優化AI模型,能夠為開發者縮短產品上市時間,并使他們的應用能夠發揮終端側AI的優勢。
高通技術公司和Meta致力于驅動創新,打造下一代AI體驗。此次合作是雙方持續合作關系的重要里程碑,彰顯了雙方以強大AI能力賦能開發者和用戶的不懈努力。
審核編輯:劉清
-
處理器
+關注
關注
68文章
19740瀏覽量
232821 -
高通
+關注
關注
77文章
7564瀏覽量
192266 -
GPU芯片
+關注
關注
1文章
304瀏覽量
6083 -
大模型
+關注
關注
2文章
2941瀏覽量
3683
原文標題:高通支持Meta Llama 3在驍龍終端上運行
文章出處:【微信號:Qualcomm_China,微信公眾號:高通中國】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
高通驍龍8至尊版移動平臺革新終端側AI影像體驗
無法在OVMS上運行來自Meta的大型語言模型 (LLM),為什么?
Llama 3 語言模型應用
使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

評論