陳左寧表示,經典的HPC的算力環境可支持現有人工智能的模型算法,但性能功耗比和性價比都較低,并非最適合的,需要創新體系結構和軟件架構。 >>>>
據介紹,人工智能的發展經歷了三個歷程。從符合主義到連接主義再到行為主義。符號主義主要是用公理和邏輯體系搭建一套人工智能系統。連接主義源于仿生學,主張模仿人類的神經元,用神經網絡的連接機制連接人工智能。行為主義控制論意為假設智能取決于感知和行動。
陳左寧稱,三大流派日趨融合,協同發展,人工智能的核心特征之一是“關系”。
據介紹,“關系”計算的表現形式有三種。一是連接關系,神經網絡中神經網元間的連接。反向傳播算法中的梯度傳播;進化算法中的變異。二是邏輯關系。RNN中的循環連接以及知識圖譜中的關聯關系。三是因果關系,貝葉斯、決策樹以及強化學習中的控制連接。
在演講中,陳左寧詳細介紹了人工智能模型和算法發展的七大趨勢。
趨勢一、向無監督的方向發展。主要表現為:適應“小數據”,減少標注需求,減少計算開銷。要向無監督方向發展要經歷幾個階段。人工智能主動學習階段,算法主動提出標注請求,將一些經過篩選的數據提交給專家標注。遷移學習階段,增強訓練好的模型,解決目標領域中僅有的少量有標簽樣本數據的問題。強化學習階段,用agents構成系統來描述行為并給予評價和反饋學習。
趨勢二、可解釋(XAI)越來越重要。深度學習如何進一步設計算法和參數,提高泛化能力,需要模型算法可解釋。對抗樣本導致模型失效,訓練數據不可理的被局部放大。模型愈加復雜,失去了可調式性和透明度。
“此時,對于技術的需求就是將可解釋技術融入軟件環境中去。有兩個方法。第一為現有軟件框架增加可解釋技術接口。提供事后解釋的基本技術,比如可視化能力,局部數據分析,特征關聯等。現有的軟件原生支持多種可解釋算法。提供算法或指標評估模型的可解釋能力。第二是“人—AI”系統結合。以人為中心,由決策理論驅動的XAI的概念框架。” 陳左寧表示。
趨勢三、人工智能的自學習、自演化。這個過程有三個階段。一是自動化機器學習,主要是利用數據驅動方式來做決策。而是限制約束條件的AutoML。三是不舍初始條件,搜索空間極大豐富的自演化AutoML。這一趨勢對于技術的需求有計算框架支撐、大算力支撐以及輔助設備支撐。
趨勢四、多種算法、模型的有機結合。單一的算法或模型難以解決實際問題。比如問題分解和多種模型有機組合。人工智能模型的發展希望融入多種技術來解決已有問題。比如,通過貝葉斯技術增強因果關系分析;通過數據生成技術減少標注數據需求;通過AutoML技術提高搜索和挖掘能力。與此同時,人工智能的應用流程也越來越復雜,如,不同流程設計的設備以及環境多樣;需要不同的算法和模型組合。多種算法、模型的有機組合的需求是計算存儲等可拓展能力。基礎軟件能力提升,支持復雜模型,不同類型軟件的協同和交互。
趨勢五、人工智能應用需求需要關注全生命周期。全周期不同人物具有不同時間,空間和計算需求。全生命周期都要考慮可解釋、公平等需求。
趨勢六、分布式、分散式的需求越來越突出。首先,大型、復雜模型,海量數據需要并行,分布式計算。其次,聯邦學習等分散場景需要分布式ML原生算法。使多個參與者可以在不共享數據的情況下構建通用的,健壯的機器學習模型,從而解決關鍵問題。不同節點上的數據集異構(分布不相同),大小可跨越幾個數量級。節點可能不可靠,節點之間的互聯可能不穩定。類別優集中式、分散式以及迭代式。這一趨勢對安全性、架構、提升效率和效用、健壯性有需求。
趨勢七,深度推理。從計算到感知再到認知和意識,人工智能模型和算法的發展趨勢七是認知理論的進一步突破。這一趨勢的需求有效應對多種形式的不確定性。其中概率計算根據不同精度計算需求設計硬件。根據數據和計算的稀疏分布設計。另外,這一趨勢的需求還有類腦、仿腦體系結構以及模擬計算。
陳左寧總結說,總體來說,AI趨勢對算力的需求主要是對軟件棧的需求。從AI發展趨勢的特點來看,關系、概率、近似計算更突出;不要求高精度、高容錯;節點上計算簡單;人在環路中需求明顯。因此,對軟件棧的需求更加多樣,比如復雜、動態、分布式和分散;支撐新場景以及架構創新。目前AI算法仍在基本計算模式中。
陳左寧坦言:“未來的復雜問題可能會超越此模式,目前的模型和算法主要是低精度張量計算?!?/p>
原文標題:陳左寧院士:人工智能模型和算法的七大發展趨勢
文章出處:【微信公眾號:人工智能與大數據技術】歡迎添加關注!文章轉載請注明出處。
責任編輯:haq
-
人工智能
+關注
關注
1796文章
47864瀏覽量
240727
原文標題:陳左寧院士:人工智能模型和算法的七大發展趨勢
文章出處:【微信號:TheBigData1024,微信公眾號:人工智能與大數據技術】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
人工智能大模型年度發展趨勢報告
![<b class='flag-5'>人工智能</b>大<b class='flag-5'>模型</b>年度<b class='flag-5'>發展趨勢</b>報告](https://file.elecfans.com/web2/M00/4E/DC/poYBAGLCjeiALm_WAAAYmfR7Qec474.png)
我國生成式人工智能的發展現狀與趨勢
高盛:2025年人工智能的五大發展趨勢
![高盛:2025年<b class='flag-5'>人工智能</b>的五<b class='flag-5'>大發展趨勢</b>](https://file1.elecfans.com/web3/M00/06/A5/wKgZO2eN5oOAEqMsAABeUU7ZhYg456.png)
嵌入式和人工智能究竟是什么關系?
霍尼韋爾連續第七次亮相進博會 以三大發展趨勢創新質贏未來
智能駕駛技術發展趨勢
未來AI大模型的發展趨勢
“智能網聯汽車全球十大發展突破”在京發布
![“<b class='flag-5'>智能</b>網聯汽車全球十<b class='flag-5'>大發展</b>突破”在京發布](https://file.elecfans.com/web2/M00/4E/DC/poYBAGLCjeiALm_WAAAYmfR7Qec474.png)
評論