神經(jīng)網(wǎng)絡進化通過篩選人工神經(jīng)網(wǎng)絡中的神經(jīng)通路來模擬自然進化。神經(jīng)進化將進化算法和人工神經(jīng)網(wǎng)絡結(jié)合起來，能像類似于地球上大腦進化的方式來訓練系統(tǒng)。

許多與機器學習相關(guān)的概念已經(jīng)存在了幾十年。然而，在過去的幾年中，由于計算能力的巨大進步，研究人員才得以探索那些已經(jīng)停滯不前的算法和方法。在人工智能領(lǐng)域，有一個概念突然引起了人們的注意：神經(jīng)進化。這種方法通過篩選人工神經(jīng)網(wǎng)絡中的神經(jīng)通路來模擬自然進化。通過突變，它確定了處理特定任務最有效的途徑。

在未來幾年，神經(jīng)進化通過允許系統(tǒng)更動態(tài)、更智能地進行調(diào)整和適應，可能會影響各種領(lǐng)域，如機器人、醫(yī)學和后勤。雖然這個概念的起源可以追溯到20世紀80年代，但一直到今天，計算能力的發(fā)展才使研究人員能夠給舊算法注入新的活力。

“神經(jīng)進化將進化算法和人工神經(jīng)網(wǎng)絡結(jié)合起來。其結(jié)果是得到了一種訓練系統(tǒng)的方法，該方法與人類大腦的進化方式非常相似。”Uber人工智能實驗室的高級研究科學家Kenneth Stanley解釋道。

自然（代碼）選擇

神經(jīng)進化受自然的啟發(fā)。傳統(tǒng)的深度學習使用一種被稱為隨機梯度下降（SGD）的方法；它通過不斷的訓練，逐步減少誤差，從而改進算法。盡管SGD在處理許多計算任務（包括語音和圖像識別等復雜活動）方面非常有效，但它難以應付“強化學習”（學習如何在很少反饋的情況下學習）這一更艱巨的挑戰(zhàn)。例如，腿受損或殘廢的機器人必須學會一種不同的行走方式，而無需任何人告訴它應該如何適應這種特殊情況。

人工智能軟件公司SentientTechnologies的研究副總裁、德克薩斯大學奧斯汀分校（University of Texas at Austin）計算機科學系教授Risto Miikkulainen解釋說：“通常，神經(jīng)網(wǎng)絡被用在擁有現(xiàn)有數(shù)據(jù)集的領(lǐng)域。當你有現(xiàn)有的數(shù)據(jù)點告訴你如何將輸入映射到輸出時，此時神經(jīng)網(wǎng)絡是有用的。典型場景包括理解股票市場的行為或天氣狀況的潛在動態(tài)，這兩者都會隨著時間的推移顯示出已知的模式。但是，如果您不知道給定輸入的正確輸出是什么，那么您就不能使用這種方法，”Miikkulainen補充道。

神經(jīng)進化旨在繞過這一障礙。在過去的幾年中，一些研究人員已經(jīng)涉足了這種方法，包括非盈利研究公司OpenAI、以及DeepMind和Google的團隊成員。Uber人工智能實驗室的高級研究科學家、懷俄明大學的副教授Stanley和Jeff Clune已經(jīng)證明，神經(jīng)進化是一種能夠創(chuàng)建深度神經(jīng)網(wǎng)絡的強大算法，能夠解決強化學習問題。他們和Uber人工智能實驗室的團隊開發(fā)了一種遺傳算法（GA），訓練具有超過400萬參數(shù)的深度卷積網(wǎng)絡。

機器突變

這項研究已經(jīng)證明了神經(jīng)進化的實際可行性。在Uber人工智能實驗室，Stanley和Clune共同撰寫了五篇關(guān)于這個主題的學術(shù)論文，他們利用遺傳算法訓練了一個神經(jīng)網(wǎng)絡，能夠根據(jù)像素數(shù)據(jù)玩Atari視頻游戲。該系統(tǒng)在13場比賽中的6場中表現(xiàn)優(yōu)于傳統(tǒng)的機器學習方法，并避免了一些SGD方法可能出現(xiàn)的一些死循環(huán)。更重要的是，在其中三場比賽中，該系統(tǒng)的表現(xiàn)優(yōu)于人類。

Stanley稱一個關(guān)鍵因素是神經(jīng)網(wǎng)絡自發(fā)突變的能力。他和克萊恩，以及Uber的另一位研究科學家Joel Lehman找到了引入“安全”突變的方法，幫助神經(jīng)網(wǎng)絡顯著增長，并產(chǎn)生更好的結(jié)果。這種技術(shù)使他們能夠進化出具有100層以上的深層神經(jīng)網(wǎng)路（DNNs），這遠遠超出了以前通過神經(jīng)進化所能達到的程度。

在Uber，該系統(tǒng)的實際好處可能包括開發(fā)出更好的定價模型或更高效的調(diào)度或路由系統(tǒng)。但這只是神經(jīng)進化的魅力之一。遺傳算法，尤其是當它與其他機器學習算法結(jié)合在一起時，可以在機器人、無人機、自動駕駛汽車、智能城市、藥物設計和網(wǎng)絡安全等領(lǐng)域帶來各種各樣的改進。不管是對無人機的結(jié)構(gòu)損壞，還是社區(qū)交通的突然激增，這些系統(tǒng)都能動態(tài)、智能地適應變化。“我們的目標是創(chuàng)建一個框架，可以快速地探索和測試各種可能性，并選擇最佳方法，”Miikkulainen解釋說。

事實上，Miikkulainen認為神經(jīng)進化的未來是光明的。它為解決復雜的計算問題提供了一個潛在的強大工具。包括OpenAI集團在內(nèi)的其他公司也在致力于這一領(lǐng)域的研究，并尋找各種可能性。Clune總結(jié)道：“神經(jīng)進化一直是一個有趣的概念。現(xiàn)代計算讓研究人員開始真正利用這個想法，就像列奧納多·達芬奇設想的直升機，直到很久以后才能真正建造和飛行。”