近期，Imagination將陸續(xù)推出全新系列研討會(huì)，涵蓋邊緣AI如何推動(dòng)工業(yè)物聯(lián)網(wǎng)的發(fā)展，生成式AI，智能汽車未來發(fā)展趨勢(shì)等等多個(gè)熱門話題。

本期研討會(huì)中，Imagination中國區(qū)產(chǎn)品總監(jiān)鄭魁為我們解讀了中國在基礎(chǔ)模型研發(fā)及其邊緣部署方面取得的進(jìn)展，重點(diǎn)分析關(guān)鍵趨勢(shì)、技術(shù)突破以及未來展望。

分享嘉賓：鄭魁，Imagination中國區(qū)產(chǎn)品總監(jiān)

以下為本期研討會(huì)要點(diǎn)內(nèi)容回顧，更多詳細(xì)內(nèi)容可觀看完整版視頻。生成式AI在中國的崛起

預(yù)計(jì)未來五年，中國在生成式AI（Gen-AI）領(lǐng)域的投資將以86%的年均復(fù)合增長(zhǎng)率（CAGR）增長(zhǎng)。這一發(fā)展的主要推動(dòng)力源于對(duì)高端技術(shù)自給自足的需求，包括從應(yīng)用到芯片的全面布局，并注重本地技術(shù)開發(fā)。

主要發(fā)展領(lǐng)域包括：

• AI芯片研發(fā)：滿足高性能AI基礎(chǔ)設(shè)施的需求。
• 數(shù)據(jù)集本地化：支持本地語言和方言。
• 定制化AI應(yīng)用：針對(duì)特定消費(fèi)和行業(yè)需求開發(fā)。

開源社區(qū)建設(shè)：積極參與深度學(xué)習(xí)框架和大型模型開源社區(qū)。

區(qū)域技術(shù)趨勢(shì)

中國的研究實(shí)驗(yàn)室在AI領(lǐng)域作出了顯著貢獻(xiàn)，尤其是在開源生態(tài)系統(tǒng)中：

排行榜表現(xiàn)：中國模型在全球競(jìng)爭(zhēng)中表現(xiàn)優(yōu)異，特別是在特定子任務(wù)上。

多模態(tài)大語言模型：在中文理解等細(xì)分領(lǐng)域具有強(qiáng)大競(jìng)爭(zhēng)力。

設(shè)備端模型：在邊緣設(shè)備上開發(fā)高效模型，如MiniCPM3-4B。

基礎(chǔ)模型的基準(zhǔn)表現(xiàn)

中國的基礎(chǔ)模型在基準(zhǔn)測(cè)試中表現(xiàn)出色，如Qwen2.5-72B-instruct和GLM-4-plus在指令遵循、長(zhǎng)文本生成和結(jié)構(gòu)化數(shù)據(jù)理解方面表現(xiàn)卓越。最新的Qwen2.5模型包含高達(dá)18萬億標(biāo)記數(shù)據(jù)，在多樣化系統(tǒng)提示下表現(xiàn)出強(qiáng)大的適應(yīng)性。

多模態(tài)大語言模型（LLM）

騰訊的混元大模型以3890億參數(shù)、5.2億激活參數(shù)及最高可達(dá)256,000個(gè)Token的處理能力，成為最大的開源混合專家模型之一，在語言理解和邏輯推理等領(lǐng)域表現(xiàn)優(yōu)異，甚至超過一些更大規(guī)模的模型。

開源貢獻(xiàn)與設(shè)備端AI

中國活躍的開源LLM社區(qū)開發(fā)了諸如DeepSeek-V2等混合專家模型，在高效推理和經(jīng)濟(jì)訓(xùn)練方面表現(xiàn)出色。同時(shí)，參數(shù)在10億以下的設(shè)備端模型（如GLM-4-9B-Chat和MiniCPM-2B）在中文任務(wù)和其他應(yīng)用中取得優(yōu)異成績(jī)。

邊緣計(jì)算的挑戰(zhàn)與解決方案將生成式AI部署到邊緣設(shè)備而非云端，可實(shí)現(xiàn)更快響應(yīng)、更高隱私、更個(gè)性化體驗(yàn)和更低的云推理成本。然而，要真正發(fā)揮AI在邊緣的潛力，還需解決計(jì)算密集型問題。GPU憑借其可編程性、靈活性和高效計(jì)算能力，成為推動(dòng)生成式AI應(yīng)用至邊緣設(shè)備的關(guān)鍵技術(shù)。

結(jié)語

中國科技生態(tài)正快速發(fā)展，并成功研發(fā)基礎(chǔ)模型并部署至邊緣。隨著技術(shù)創(chuàng)新的持續(xù)推進(jìn)以及對(duì)本地化和定制化的高度重視，消費(fèi)者將見證更多強(qiáng)大的AI功能應(yīng)用到各種設(shè)備中。

下一期研討會(huì)中，Imagination高級(jí)產(chǎn)品總監(jiān)Rob Fisher將分享“汽車行業(yè)趨勢(shì)”的相關(guān)主題，敬請(qǐng)期待！