如果AI可以終身學習會怎樣？科學家們已經開發(fā)出一種新的深度神經網絡框架，允許人工智能系統(tǒng)更好地學習新的任務，同時更少地忘記他們在以前的任務中所學的東西。

美國陸軍的一個項目為深度神經網絡開發(fā)了一個新的框架，它允許人工智能系統(tǒng)更好地學習新任務，同時更少地忘記他們在以前任務中學到的東西。

由軍方資助的北卡羅萊納州立大學的研究人員也證明了使用框架學習新的任務可以使人工智能更好地執(zhí)行以前的任務，這一現(xiàn)象稱為反向轉移。

“陸軍需要準備好在世界任何地方作戰(zhàn)，因此它的智能系統(tǒng)也需要準備好，” 陸軍研究辦公室智能系統(tǒng)（美國陸軍作戰(zhàn)能力開發(fā)司令部陸軍研究實驗室的一個組成部分）的項目經理Mary Anne Fields博士說道：“我們希望陸軍的智能系統(tǒng)能在世界各地的戰(zhàn)場上執(zhí)行任務時不斷獲得新的技能，而不要忘記已經訓練掌握的技能。例如，在進行城市操作時，輪式機器人可能會學習在人口密集的城市該如何行進，但它仍然需要在以前遇到的環(huán)境（如森林）中高效工作。”

研究團隊提出了一種新的持續(xù)學習框架，稱為“學習成長”（Learn to Grow），它將網絡結構學習和模型參數(shù)學習分離開來。在實驗測試中，它優(yōu)于以往的持續(xù)學習方法。

“深度神經網絡人工智能系統(tǒng)是為學習狹小范圍任務而設計的，”該論文的合著者、北卡羅來納州立大學博士生李錫來（音譯）說道。因此，在學習新任務時，可能會發(fā)生以下幾種情況之一：

◆系統(tǒng)在學習新任務時會忘記舊任務，這稱為災難性遺忘。

◆系統(tǒng)會忘記一些它們知道的關于舊任務的事情，同時不學習去做新的任務。

◆系統(tǒng)可以在添加新任務的同時將舊任務解決——這限制了改進并很快導致人工智能系統(tǒng)太大而無法有效運行。

持續(xù)學習，又稱終身學習或學著學習（learning-to-learn）正試圖解決這個問題?！?/p>

要理解“學會成長”框架，請將深層神經網絡想成布滿多層的管道。原始數(shù)據(jù)進入管道的頂部，任務輸出從底部出來。管道中的每一個“層”都是一個計算，它操縱數(shù)據(jù)以幫助網絡完成其任務，例如識別數(shù)字圖像中的對象。管道中的層有多種排列方式，它們對應于網絡的不同“架構”。

當要求一個深層神經網絡學習一個新的任務時，“學習成長”框架首先通過搜索執(zhí)行一個稱為顯式神經架構優(yōu)化的操作。這意味著，當網絡到達其系統(tǒng)中的每一層時，它可以決定執(zhí)行以下四項操作之一：

◆跳過該層

◆用和以前的任務相同的方式使用該層

◆在該層上附加一個輕量級適配器，這會稍微修改該層

◆創(chuàng)建一個全新的層

這種體系結構優(yōu)化有效地布局了完成新任務所需的最佳拓撲（topology）或者一系列層。一旦完成，網絡就使用新的拓撲結構來訓練自己如何完成任務——就像其他任何深度學習人工智能系統(tǒng)一樣。

“我們已經使用多個數(shù)據(jù)集進行了實驗，我們發(fā)現(xiàn)，新任務與以前的任務越相似，現(xiàn)有層執(zhí)行新任務的重疊程度就越高，” 李錫來說道：“更有趣的是，在經過優(yōu)化或“學習”的拓撲結構下，接受過執(zhí)行新任務培訓的網絡幾乎不會忘記執(zhí)行舊任務所需的內容，即使舊任務不相似?！?/p>

研究人員還進行了實驗，將“學習成長”框架的學習新任務能力與其他幾種持續(xù)學習方法進行比較，發(fā)現(xiàn)“學習成長”框架在完成新任務時具有更好的準確性。

為了測試在學習新任務時每個網絡可能忘記了多少，研究人員隨后測試了每個系統(tǒng)在執(zhí)行舊任務時的準確性——而“學習成長”框架再次優(yōu)于其他網絡。

“在某些情況下，‘學習成長’框架實際上在執(zhí)行舊任務方面做得更好，”Salesforce Research的研究主管、該論文的合著者之一熊才明（音譯）說，“這被稱為反向轉移，當你發(fā)現(xiàn)學習一個新任務會使你更好地完成一個舊任務時就會發(fā)生這種情況。我們一直在人們身上看到這一點，但在人工智能上就很少見?！?/p>

菲爾茲說：“陸軍的這項投資擴展了當前最先進的機器學習技術，這些技術將指導我們的陸軍研究實驗室研究人員開發(fā)機器人應用，如智能機動和學習識別新物體?！边@項研究使人工智能更接近于為我們的作戰(zhàn)人員提供可部署在戰(zhàn)場上的有效無人系統(tǒng)。”

論文 《 學習成長：克服災難性遺忘的持續(xù)結構學習框架》將于6月9日至15日在加利福尼亞長灘舉行的第36屆機器學習國際會議上發(fā)表。論文的共同主要作者包括數(shù)控州電氣與計算機工程助理教授吳天福（音譯）博士、北卡羅來納州立大學博士生李錫來和Salesforce Research的周穎波。論文由Salesforce Research的Richard Socher和Caiming Xiong合著。

這項工作也得到了國家科學基金會的支持。李錫來在Salesforce AI Research做暑期實習生時完成了部分工作。