在今年的巴塞羅那世界移動通信大會(MWC)上,高通技術(shù)公司再次引領(lǐng)AI技術(shù)的創(chuàng)新潮流,發(fā)布了其全新的高通AI Hub。這一創(chuàng)新平臺為開發(fā)者提供了一個全面的AI模型庫,使得他們能夠輕松快速地將預(yù)優(yōu)化AI模型集成進(jìn)應(yīng)用程序中,從而為用戶帶來更快、更可靠且更具隱私性的體驗。
高通AI Hub的核心是其預(yù)優(yōu)化AI模型庫,這一庫支持在搭載驍龍和高通平臺的終端上進(jìn)行無縫部署。模型庫中包含超過75個主流的AI和生成式AI模型,如Whisper、ControlNet、Stable Diffusion和Baichuan-7B等。這些模型可在不同的執(zhí)行環(huán)境中打包,實現(xiàn)卓越的終端側(cè)AI性能、降低內(nèi)存占用并提升能效。
值得一提的是,所有模型都經(jīng)過優(yōu)化,旨在充分利用高通AI引擎內(nèi)的所有核心(NPU、CPU和GPU)的硬件加速能力。這意味著推理速度可以得到4倍的提升,從而為用戶提供更加流暢、高效的AI體驗。
除了硬件加速外,AI模型庫還能夠自動處理從源框架到主流執(zhí)行環(huán)境的模型轉(zhuǎn)換,并與高通AI引擎Direct SDK協(xié)同工作,實現(xiàn)硬件感知優(yōu)化。這意味著開發(fā)者可以更加便捷地將這些模型集成進(jìn)他們的應(yīng)用程序中,縮短產(chǎn)品上市時間,并發(fā)揮終端側(cè)AI部署的諸多優(yōu)勢,如即時性、可靠性、隱私保護(hù)、個性化和成本優(yōu)勢。
為了方便開發(fā)者使用這些模型,高通AI Hub現(xiàn)已在高通AI Hub、GitHub和Hugging Face等平臺上提供。此外,高通AI Hub還將持續(xù)增加新模型,并支持更多平臺和操作系統(tǒng)。開發(fā)者只需注冊登錄,即可在搭載高通技術(shù)公司平臺的云托管終端上自行運行模型,并通過高通AI Hub提前獲取新特性和AI模型。
隨著AI技術(shù)的不斷發(fā)展和普及,高通AI Hub的推出無疑將為開發(fā)者提供更加便捷、高效的工具,推動終端側(cè)AI技術(shù)的廣泛應(yīng)用和發(fā)展。我們期待這一平臺能夠在未來的AI領(lǐng)域中發(fā)揮更大的作用,為用戶帶來更加出色的AI體驗。
-
高通
+關(guān)注
關(guān)注
77文章
7512瀏覽量
191228 -
移動通信
+關(guān)注
關(guān)注
10文章
2617瀏覽量
70094 -
AI
+關(guān)注
關(guān)注
87文章
31691瀏覽量
270487
發(fā)布評論請先 登錄
相關(guān)推薦
探索 RK3576 方案:卓越性能與靈活框架,誠邀開發(fā)定制合作!
AI開發(fā)平臺如何賦能開發(fā)者
聯(lián)發(fā)科技攜手Cocos共建端側(cè)生成式AI游戲開發(fā)生態(tài),推動行業(yè)升級
廣和通開啟端側(cè)AI新時代
云端AI開發(fā)者工具怎么用
高通AI Hub:輕松實現(xiàn)Android圖像分類
![<b class='flag-5'>高</b>通<b class='flag-5'>AI</b> <b class='flag-5'>Hub</b>:輕松實現(xiàn)Android圖像分類](https://file1.elecfans.com/web2/M00/0D/4E/wKgaomdFfv-AV-2HAACUww0CQCg180.png)
Arm推出GitHub平臺AI工具,簡化開發(fā)者AI應(yīng)用開發(fā)部署流程
多項AI新成果發(fā)布,涂鴉智能引領(lǐng)全球開發(fā)者共繪GenAI發(fā)展藍(lán)圖
![多項<b class='flag-5'>AI</b>新成果發(fā)布,涂鴉智能引領(lǐng)全球<b class='flag-5'>開發(fā)者</b>共繪GenAI發(fā)展藍(lán)圖](https://file.elecfans.com/web2/M00/40/04/pYYBAGJrTDSAYdI1AAASTiyZjeQ622.jpg)
2024快應(yīng)用開發(fā)者大會:攜手AI,共筑未來智慧服務(wù)新生態(tài)
![2024快應(yīng)用<b class='flag-5'>開發(fā)者</b>大會:攜手<b class='flag-5'>AI</b>,共筑未來智慧服務(wù)新生態(tài)](https://file1.elecfans.com//web2/M00/01/81/wKgZoma1xMWAV3zgAAOj2hGpzqE18.jpeg)
高通AI Hub支持驍龍X系列,賦能Windows PC終端AI
開發(fā)者手機(jī) AI - 目標(biāo)識別 demo
高通AI Hub助力開發(fā)者解鎖終端側(cè)AI潛力
高通發(fā)布AI Hub平臺和Wi-Fi7芯片, 助力開發(fā)人員構(gòu)建AI模型和多終端用例
![<b class='flag-5'>高</b>通發(fā)布<b class='flag-5'>AI</b> <b class='flag-5'>Hub</b>平臺和Wi-Fi7芯片, 助力<b class='flag-5'>開發(fā)</b>人員構(gòu)建<b class='flag-5'>AI</b>模型和多<b class='flag-5'>終端</b>用例](https://file1.elecfans.com/web2/M00/C2/CD/wKgaomXe9naAcM9DAAWxSb2H0is794.png)
評論