近日，學(xué)習(xí)算法先驅(qū)人物、《深度學(xué)習(xí)革命》一書作者Terrence Sejnowski在接受The Verge訪談時(shí)簡要介紹了AI的起源和發(fā)展，同時(shí)表示，關(guān)于“殺人AI”和“機(jī)器人代替人類”等概念更多是過度炒作的結(jié)果，因?yàn)槿藗儗?duì)AI新技術(shù)的期待有些過于著急了。令他印象最深刻的技術(shù)是生成對(duì)抗網(wǎng)絡(luò)。

近日，計(jì)算神經(jīng)科學(xué)家、《深度學(xué)習(xí)革命》一書作者Terrence Sejnowski在接受采訪時(shí)表示，現(xiàn)在像“深度學(xué)習(xí)”和“神經(jīng)網(wǎng)絡(luò)”這樣的流行語無處不在，但是大多數(shù)對(duì)這些詞語的理解都被誤導(dǎo)了。

Sejnowski是研究學(xué)習(xí)算法的先驅(qū)，《深度學(xué)習(xí)革命》（The Deep Learning Revolution）一書的作者，該書新版本將于下周由麻省理工學(xué)院出版社出版。

他認(rèn)為，關(guān)于“殺手AI”或“機(jī)器人超越人類”的話題熱議過于關(guān)注危機(jī)的一面，忽視了計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)領(lǐng)域中令人興奮的可能，也忽視了當(dāng)人工智能與人類智能時(shí)發(fā)生碰撞時(shí)會(huì)發(fā)生什么。

近日，Sejnkowski接受The Verge訪談時(shí)，談到了“深度學(xué)習(xí)”一詞為何突然變得無處不在，深度學(xué)習(xí)能做什么、不能做什么，以及對(duì)這一概念的炒作問題。

首先，我想問一下定義問題。人們幾乎可以完全互換地使用“人工智能”、“神經(jīng)網(wǎng)絡(luò)”、“深度學(xué)習(xí)”和“機(jī)器學(xué)習(xí)”等詞。但實(shí)際上這些詞指的是不同的東西，您能解釋一下有哪些不同嗎？

Sejnowski是研究學(xué)習(xí)算法的先驅(qū)，《深度學(xué)習(xí)革命》一書的作者

人工智能（AI）的誕生可以追溯到1956年，當(dāng)時(shí)美國的一些工程師們決定編寫一個(gè)能夠嘗試模仿人類智能的計(jì)算機(jī)程序。而機(jī)器學(xué)習(xí)是在AI中逐步壯大的一個(gè)新領(lǐng)域。傳統(tǒng)的人工智能方法是編寫一個(gè)循序漸進(jìn)的程序來實(shí)現(xiàn)某件事情，而機(jī)器學(xué)習(xí)是收集大量試圖理解其內(nèi)容的數(shù)據(jù)。

比如你正在嘗試識(shí)別目標(biāo)，你可以收集大量的圖像。然后，通過機(jī)器學(xué)習(xí)這個(gè)自動(dòng)化的過程，就可以剖析各種功能，可以確定某個(gè)目標(biāo)是一輛汽車，而另一個(gè)目標(biāo)是一臺(tái)訂書機(jī)。

機(jī)器學(xué)習(xí)是一個(gè)非常大的領(lǐng)域，并且可以追溯到最初人們稱之為“模式識(shí)別”的階段，但現(xiàn)在的算法在數(shù)學(xué)上變得更加廣泛和復(fù)雜。在機(jī)器學(xué)習(xí)中包括受大腦啟發(fā)而建立的神經(jīng)網(wǎng)絡(luò)，然后才是深度學(xué)習(xí)。深度學(xué)習(xí)算法具有特定的體系結(jié)構(gòu)?；旧峡梢赃@樣講，深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一部分，而機(jī)器學(xué)習(xí)是人工智能的一部分。

有哪些事情是機(jī)器學(xué)習(xí)能做，其他程序做不了的？

編寫程序非常耗費(fèi)人力。在過去，計(jì)算機(jī)運(yùn)算速度很慢，內(nèi)存又非常昂貴，以至于必須求助于邏輯，這就是計(jì)算機(jī)的工作原理，是控制信息的基本機(jī)器語言。因?yàn)橛?jì)算機(jī)太慢了、計(jì)算成本太高了。

但現(xiàn)在，計(jì)算已經(jīng)越來越便宜，勞動(dòng)力越來越昂貴。計(jì)算力甚至便宜到了這種程度：讓計(jì)算機(jī)去學(xué)習(xí)，比讓人類編寫程序更有效率。從那時(shí)起，深度學(xué)習(xí)實(shí)際上已經(jīng)開始解決以前在計(jì)算機(jī)視覺和翻譯等領(lǐng)域的問題。而在此之前，人類的編程未踏足過這些領(lǐng)域。

深度學(xué)習(xí)是計(jì)算密集型活動(dòng)，但用戶只需編寫一個(gè)程序，并提供不同的數(shù)據(jù)集，就可以解決不同的問題。用戶不必非要是相關(guān)領(lǐng)域?qū)＜?。因此，?duì)于存在大量數(shù)據(jù)的任何事物，都可以產(chǎn)生成千上萬的應(yīng)用程序。

“深度學(xué)習(xí)”現(xiàn)在似乎無處不在。這個(gè)詞是如何變得如此流行的？

關(guān)于這個(gè)時(shí)間點(diǎn)我其實(shí)可以明確確認(rèn)：就是在2012年12月的NIPS會(huì)議上，這是最大的人工智能會(huì)議。這次會(huì)議上，Geoff Hinton和他的兩個(gè)研究生表明，使用一個(gè)名為ImageNet的大型數(shù)據(jù)集，其中包含10000個(gè)類別和1000萬個(gè)圖像，并使用深度學(xué)習(xí)將分類錯(cuò)誤率降低了20％。

一般來說，該數(shù)據(jù)集的圖像分類錯(cuò)誤率每年只能降低不到1％。這一年的改進(jìn)頂了20年的研究。從此之后，閘門就被打開了。

深度學(xué)習(xí)的靈感來自大腦。那么這些不同領(lǐng)域之間，比如計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)之間，是如何協(xié)同工作的？

深度學(xué)習(xí)的靈感來自神經(jīng)科學(xué)，最成功的深度學(xué)習(xí)網(wǎng)絡(luò)是Yann LeCun開發(fā)的卷積神經(jīng)網(wǎng)絡(luò)（CNN）。

考察一下CNN的架構(gòu)，它不僅僅是由很多單元組成的，而且這些單元的連接方式基本反映出大腦的結(jié)構(gòu)。在關(guān)于視覺系統(tǒng)和視覺皮層的基礎(chǔ)研究中，表明大腦的一部分存在簡單細(xì)胞和復(fù)雜細(xì)胞。在CNN的架構(gòu)中，也存在簡單細(xì)胞和復(fù)雜細(xì)胞的等價(jià)結(jié)構(gòu)，CNN的架構(gòu)設(shè)計(jì)直接來源于我們對(duì)視覺系統(tǒng)的理解。

Yann沒有盲目地試圖復(fù)制大腦皮層。他嘗試了許多不同的變化，但他選擇嘗試的是那些自然融合的變化。這是一個(gè)重要的觀察結(jié)果。我們在自然與人工智能的融合中可以學(xué)到很多東西，而且還有很長的路要走。

《深度學(xué)習(xí)革命》2018年版封面

我們對(duì)計(jì)算機(jī)科學(xué)的理解，在多大程度上取決于我們對(duì)大腦的理解程度？

我們現(xiàn)在研究和使用的大部分AI都是基于我們在上世紀(jì)60年代對(duì)大腦的了解。我們現(xiàn)在知道的更多了，可以將更多的知識(shí)融入到神經(jīng)網(wǎng)絡(luò)架構(gòu)中。

擊敗世界圍棋冠軍的AlphaGo的架構(gòu)中不僅包括皮質(zhì)模型，還包括大腦的另一部分模型，稱為基底神經(jīng)節(jié)，這部分結(jié)構(gòu)對(duì)于制定一系列決策來實(shí)現(xiàn)目標(biāo)非常重要。有一種稱為時(shí)間差異的算法，是Richard Sutton在上世紀(jì)80年代開發(fā)的，將這種算法與深度學(xué)習(xí)相結(jié)合，能夠進(jìn)行人類前所未見的復(fù)雜游戲。

當(dāng)我們了解了大腦的結(jié)構(gòu)，開始明白如何將其集成到人工系統(tǒng)中時(shí)，AI的功能將會(huì)越來越強(qiáng)大。

人工智能也會(huì)影響神經(jīng)科學(xué)嗎？

這兩個(gè)領(lǐng)域是并行的。神經(jīng)技術(shù)創(chuàng)新已經(jīng)取得了巨大的進(jìn)步，從一次記錄一個(gè)神經(jīng)元，到同時(shí)記錄數(shù)千個(gè)神經(jīng)元，同時(shí)記錄大腦中的多個(gè)部分的反應(yīng)，可以說完全開辟了一個(gè)全新的世界。

我認(rèn)為，人工智能與人類智能之間存在著一種趨同。隨著我們越來越多地了解大腦的工作原理，這些新知識(shí)將會(huì)反映在AI中。而與此同時(shí)，我們實(shí)際上也創(chuàng)造出了一整套可用于理解大腦的學(xué)習(xí)理論，可以讓我們分析成千上萬的神經(jīng)元及其活動(dòng)是如何產(chǎn)生的。所以說，神經(jīng)科學(xué)和人工智能之間存在著這種相互反饋和循環(huán)，我認(rèn)為這一點(diǎn)更令人興奮，也更為重要。

您即將出版的《深度學(xué)習(xí)革命》一書中討論了許多不同的深度學(xué)習(xí)應(yīng)用，從自動(dòng)駕駛汽車到交易。您覺得哪個(gè)領(lǐng)域最有趣？

我覺得是生成對(duì)抗網(wǎng)絡(luò)（GAN）。如果使用傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)，你給出一個(gè)輸入，得到一個(gè)輸出。 而GAN能夠在沒有輸入的情況下生成輸出。

我第一次聽說GAN的時(shí)候，正值由網(wǎng)絡(luò)創(chuàng)建的假視頻風(fēng)行的時(shí)候。GAN真的會(huì)產(chǎn)生足以亂真的假視頻，對(duì)吧？

從某種意義上說，它們是在生成內(nèi)部活動(dòng)。事實(shí)證明，人的大腦就是這樣運(yùn)作的。你可以看到并理解一些東西，然后閉上眼睛，開始想象實(shí)際并不存在的東西。你的腦子里會(huì)產(chǎn)生一個(gè)視覺圖像，周圍安靜下來時(shí)，你會(huì)有想法。那是因?yàn)槟愕拇竽X是生成性的。現(xiàn)在，這種新型網(wǎng)絡(luò)可以生成從未存在過的新模式。

所以打個(gè)比方，你可以給GAN輸入幾百張汽車圖片，它就會(huì)創(chuàng)建內(nèi)部結(jié)構(gòu)，可以生成實(shí)際上不存在的汽車的新圖像，這些圖像看起來完全和汽車相似。

另一方面，您認(rèn)為哪些想法或概念可能被過度炒作了？

沒有人可以預(yù)測或想象這種新技術(shù)的引入會(huì)對(duì)未來產(chǎn)生什么影響。這里邊當(dāng)然存在炒作。我們還沒有解決真正困難的問題?，F(xiàn)在我們還沒有實(shí)現(xiàn)通用智能，但人們都說機(jī)器人就在那里靜靜等著，等著取代人類，盡管目前機(jī)器人的發(fā)展遠(yuǎn)遠(yuǎn)落后于AI，因?yàn)槠鋵?shí)模仿人類的身體比模仿大腦更加復(fù)雜。

這里以一項(xiàng)技術(shù)進(jìn)步為例：激光。激光是在大約50年前發(fā)明的，當(dāng)時(shí)的激光發(fā)射器大到占據(jù)了整個(gè)一間房。從那時(shí)起，一直到現(xiàn)在的激光器可以縮小到做講演時(shí)使用的“激光筆”大小，而且僅售5美元，激光技術(shù)的商業(yè)化過程長達(dá)50年。

同樣的事情也將發(fā)生在像自動(dòng)駕駛汽車之類的技術(shù)上。自駕車可能明年無法普及，10年內(nèi)無法普及，要普及可能需要50年，但重點(diǎn)是，在整個(gè)普及過程中，技術(shù)會(huì)不斷進(jìn)步，會(huì)變得越來越靈活和安全，與我們的交通運(yùn)輸網(wǎng)絡(luò)的組織形式更加兼容。現(xiàn)在的問題是，人們太著急了，過分期待新技術(shù)盡快到來，其實(shí)假以時(shí)日，新技術(shù)總會(huì)到來的。