計(jì)算是對(duì)信息進(jìn)行有目的的操縱。數(shù)據(jù)正在成為主要的生產(chǎn)手段。深度學(xué)習(xí)在新的基礎(chǔ)上進(jìn)行計(jì)算。? ?—— 陸奇（時(shí)任微軟 Bing 研發(fā)部門負(fù)責(zé)人）

ChatGPT 幕后的締造者是非營(yíng)利機(jī)構(gòu) OpenAI，OpenAI 的創(chuàng)始成員兼首席科學(xué)家伊利亞·薩特斯基弗是與杰夫·辛頓一起創(chuàng)立 DNNresearch 的學(xué)生之一，杰夫·辛頓是在 2019 年與 Lecun（楊立昆）一起獲得圖靈獎(jiǎng)的人工智能科學(xué)家，而楊立昆在 2015 年 OpenAI 成立不到一天的時(shí)間里就斷言它必將失敗。深度學(xué)習(xí)的發(fā)展放佛一個(gè)向上回旋的怪圈，即使告別了寒冬，暖春的腳步似乎也來(lái)得異常緩慢。

一、「革命」始于一場(chǎng)秘密競(jìng)拍

也許現(xiàn)在正是討論人工智能（AI）的好時(shí)候，自 2012 年深度學(xué)習(xí)「革命」以來(lái)，距今正好過(guò)去了 10 年時(shí)間。

10 年前，杰夫·辛頓和他的兩位學(xué)生憑借神經(jīng)網(wǎng)絡(luò) AlexNet 拿下 ImageNet 冠軍，向世界證明神經(jīng)網(wǎng)絡(luò)能夠以超越其他任何技術(shù)的精度識(shí)別常見的物體。此后，通過(guò)一場(chǎng)秘密競(jìng)拍，辛頓將神經(jīng)網(wǎng)絡(luò)推向科技行業(yè)的中心，戲劇性地加速了人工智能的進(jìn)步。

在最新出版的《深度學(xué)習(xí)革命》一書中，這場(chǎng)秘密競(jìng)拍被第一次完整展現(xiàn)在世人面前。彼時(shí)，參與競(jìng)拍的不只有硅谷巨頭谷歌與微軟，還有中國(guó)的互聯(lián)網(wǎng)公司百度，以及當(dāng)時(shí)成立僅兩年的 DeepMind（雖然沒能贏得競(jìng)拍，但在接下來(lái)的 10 年時(shí)間里，DeepMind 成為了這個(gè)時(shí)代最著名且最有影響力的人工智能實(shí)驗(yàn)室）。

地平線創(chuàng)始人余凱與 AI 科學(xué)家鄧力也在這場(chǎng)競(jìng)拍中扮演了重要的角色。當(dāng)時(shí)的他們，一個(gè)在領(lǐng)導(dǎo)百度新成立的新媒體部，一個(gè)是微軟的研究員。二人在回國(guó)的飛機(jī)上座位相鄰，對(duì)深度學(xué)習(xí)的追求也使得兩人志趣相投，但囿于各自的雇主，他們都沒有透露自己參與競(jìng)拍的故事。甚至直到《深度學(xué)習(xí)革命》出版，二人才最終確認(rèn)當(dāng)年參與競(jìng)標(biāo)的另外三家公司。

自 2012 年的競(jìng)拍之后，一小群來(lái)自世界各地的人工智能研究人員散落在谷歌、Meta、微軟與百度等科技公司（還有幾位后來(lái)成立了非營(yíng)利組織 OpenAI），他們將開始花費(fèi)數(shù)十年的時(shí)間培育一個(gè)想法，一種機(jī)器。

二、深度學(xué)習(xí)的「十年」進(jìn)程

深度學(xué)習(xí)帶來(lái)一種力量，也帶來(lái)了更多的質(zhì)疑，還有巨頭們對(duì)利潤(rùn)貪得無(wú)厭的渴望。

2013 年，也是秘密競(jìng)拍的后一年，杰夫·辛頓與自己的兩名學(xué)生加入了谷歌。同年，馬克·扎克伯格和楊立昆創(chuàng)立了 Facebook 人工智能研究實(shí)驗(yàn)室。

2014 年，谷歌收購(gòu)了當(dāng)年參與秘密競(jìng)拍的另一家公司 DeepMind。2015 年，辛頓當(dāng)年獲獎(jiǎng)團(tuán)隊(duì)的學(xué)生之一——伊利亞·薩特斯基弗與埃隆·馬斯克等人創(chuàng)立了 OpenAI。

也是在這幾年間，科技巨頭們向深度學(xué)習(xí)研究人員支付了數(shù)千萬(wàn)美元甚至數(shù)億美元，包括工資、獎(jiǎng)金和公司股票。

遵循付出才有回報(bào)的原則，2016 年，AlphaGo 在韓國(guó)首爾擊敗李世石；2017 年，AlphaGo 在中國(guó)擊敗柯潔。兩個(gè)月后，中國(guó)國(guó)務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，提出到 2030 年中國(guó)要成為人工智能的世界領(lǐng)導(dǎo)者，目標(biāo)是超越美國(guó)在內(nèi)的所有競(jìng)爭(zhēng)對(duì)手。同年，英偉達(dá)推出漸進(jìn)式 GAN，它可以生成照片級(jí)的人臉，也引發(fā)了大眾對(duì) AI 倫理的討論。

2019 年，杰夫·辛頓、楊立昆和約書亞·本吉奧獲得圖靈獎(jiǎng)。辛頓在發(fā)表獲獎(jiǎng)感言時(shí)說(shuō)：“作為成功團(tuán)體的一員，總是比獨(dú)自一人更好”。同年，微軟向 OpenAI 投資 10 億美元，而亞馬遜的人臉識(shí)別技術(shù)遭到頂級(jí)研究人員的抗議。

2020 年，Covariant 在柏林發(fā)布分揀機(jī)器人。2021 年，聯(lián)合國(guó)教科文組織推出《人工智能倫理問(wèn)題建議書》，這是關(guān)于人工智能的首份全球性規(guī)范框架，旨在促進(jìn)人工智能為人類服務(wù)，并預(yù)防其潛在風(fēng)險(xiǎn)。

2022，也就是去年，以深度學(xué)習(xí)技術(shù)為代表的人工智能取得了令人矚目的進(jìn)展。無(wú)論是風(fēng)頭正盛的 ChatGPT，還是全民參與的 AI 繪畫，又或者是業(yè)內(nèi)認(rèn)可的圖像處理模型 DALL-E，都展示了人工智能令人著迷的能力。

有人說(shuō)這是深度學(xué)習(xí)的風(fēng)光大年，還有人說(shuō)這是 ?OpenAI 元年。

三、常識(shí)：世界運(yùn)行的潛規(guī)則

然而，隨著深度學(xué)習(xí)技術(shù)涉及的領(lǐng)域更加廣泛，包括醫(yī)療健康、政府監(jiān)控和軍隊(duì)，它可能出錯(cuò)的方式也變得更多。

此外，科學(xué)界對(duì)如何利用深度學(xué)習(xí)近年來(lái)的進(jìn)展也存在很大分歧。一些科學(xué)家認(rèn)為復(fù)雜的模型是有感情的，應(yīng)該被歸為“人格”；也有人認(rèn)為，目前的深度學(xué)習(xí)研究方法應(yīng)該指向真正社會(huì)化的通用人工智能（AGI）；與此同時(shí)，另一些科學(xué)家研究了當(dāng)前模型的不足之處，并指出即使是最先進(jìn)的深度學(xué)習(xí)系統(tǒng)也有著與早期模型相同的缺陷——也就是圖靈獎(jiǎng)得主楊立昆所說(shuō)的缺乏“常識(shí)”。

人類和人工智能之間的差距正是由缺乏常識(shí)造成的，有人將常識(shí)描述為“語(yǔ)言和智能的暗物質(zhì)”和“世界如何運(yùn)作的潛規(guī)則”，這些規(guī)則影響著人們使用和解釋語(yǔ)言的方式。

常識(shí)對(duì)于人類來(lái)說(shuō)是微不足道的，對(duì)于機(jī)器來(lái)說(shuō)則是困難的。因?yàn)轱@而易見的事情永遠(yuǎn)不會(huì)被說(shuō)出來(lái)，每一條規(guī)則都有無(wú)窮無(wú)盡的例外，而且在常識(shí)問(wèn)題上也沒有普遍的真理。這是模棱兩可的，混亂的東西。

這種缺陷在 ChatGPT 這樣的系統(tǒng)中很明顯，它生成的文本常常是語(yǔ)法正確，但在邏輯和事實(shí)上有明顯缺陷的。

事實(shí)上，大型語(yǔ)言模型往往在簡(jiǎn)單的邏輯問(wèn)題上犯嚴(yán)重錯(cuò)誤，并作出前后不一致的陳述。

簡(jiǎn)而言之，目前的人工智能沒有任何關(guān)于語(yǔ)言和思想的成分，也沒有一般意義上的認(rèn)知。

有人列出了深度學(xué)習(xí)系統(tǒng)中缺失的認(rèn)知的四個(gè)方面:

抽象概念: 像 ChatGPT 這樣的深度學(xué)習(xí)系統(tǒng)仍然需要處理計(jì)數(shù)和分類等基本概念；

推理: 大型語(yǔ)言模型無(wú)法推理基本的事實(shí)；

組合: 人類理解語(yǔ)言是由部分組成的整體，而當(dāng)前的人工智能仍然在為此而掙扎，當(dāng) DALL-E 這樣的模型被要求繪制具有層次結(jié)構(gòu)的圖像時(shí)，我們就可以發(fā)現(xiàn)這一點(diǎn)；

自動(dòng)更新: 人類能夠通過(guò)不斷適應(yīng)來(lái)維護(hù)不完美的世界，大型語(yǔ)言模型則不然。它們不能通過(guò)提供新的事實(shí)來(lái)逐步更新自己的認(rèn)知，而是需要無(wú)數(shù)次接受再培訓(xùn)，才能吸收新知識(shí)。

四、人工智能的 樂觀時(shí)刻：ChatGPT

ChatGPT 爆火后，楊立昆在一次 Zoom 會(huì)議上稱其算不上是 Rocket Science（有巨大進(jìn)展的科研成果），尤其是就底層技術(shù)而言。楊立昆表示 ChatGPT “背后沒有任何秘密可言”，而它的締造者 OpenAI 也只是做到了將近年來(lái)先進(jìn)的人工智能技術(shù)排列組合而已。

在最新出版的《深度學(xué)習(xí)革命》一書中，也記錄了楊立昆最開始對(duì) OpenAI 的態(tài)度。在 OpenAI 成立之初，以楊立昆為代表的，在硅谷科技公司任職的科學(xué)家們并不看好這樣一個(gè)憑空出現(xiàn)的人工智能研究組織。在 OpenAI 成立后的幾個(gè)小時(shí)里，楊立昆告訴創(chuàng)始成員薩特斯基弗，他正在犯一個(gè)錯(cuò)誤，并給出了 10 多條理由，比如 OpenAI 的研究人員太年輕、非營(yíng)利形式不賺錢以及實(shí)驗(yàn)室缺少經(jīng)驗(yàn)等等。

“你會(huì)失敗的”，楊立昆對(duì)薩特斯基弗說(shuō)。

雖然從底層技術(shù)看，ChatGPT 并不算創(chuàng)新，但其社會(huì)影響遠(yuǎn)遠(yuǎn)超出了所有人的預(yù)期。人類當(dāng)前的技術(shù)水平距離真正的智能也許還有很長(zhǎng)的一段路，但在樂觀時(shí)刻出現(xiàn)之前，技術(shù)將人類推向新高度的方式往往令人驚訝。

辛頓常常說(shuō)：“舊的想法也是新的”，他認(rèn)為科學(xué)家用不應(yīng)該放棄一個(gè)想法，除非有人證明它行不通。

深度學(xué)習(xí)的興起標(biāo)志著數(shù)字技術(shù)的構(gòu)建方式出現(xiàn)了根本的改變。工程師們不再細(xì)致地定義機(jī)器應(yīng)該如何運(yùn)行，一次一條規(guī)則，一次一行代碼，他們打造著可以通過(guò)自身經(jīng)驗(yàn)學(xué)習(xí)任務(wù)的機(jī)器，這些經(jīng)驗(yàn)包含了巨量的數(shù)字信息，甚至沒有人能完全理解。

五、永不停息的競(jìng)賽

10 年前的那場(chǎng)競(jìng)拍，谷歌最終以 4400 萬(wàn)美元獲勝，并在之后以 6.5 億美元收購(gòu)了 DeepMind；時(shí)任 Facebook CEO 的扎克伯格則迅速找到楊立昆，成立了自己的研究實(shí)驗(yàn)室；而百度緊接著宣布吳恩達(dá)將為該公司管理硅谷北京兩地的實(shí)驗(yàn)室。

10 年后的今天，微軟宣布將 ChatGPT 整合入自家搜索引擎 Bing，并向 OpenAI 再投 100 億美元。

強(qiáng)大的技術(shù)總是讓人著迷，也讓人恐懼，于是人類一次又一次地在它們身上豪賭。只是在人工智能領(lǐng)域，籌碼比科學(xué)家們所知道的還要高。

這也是科技行業(yè)的運(yùn)作方式：科技巨頭們永遠(yuǎn)都在一場(chǎng)永不停息的競(jìng)賽中，追逐著下一項(xiàng)變革性技術(shù)，無(wú)論那是什么，每家公司都想率先抵達(dá)那里，如果有誰(shuí)搶先一步，那么其他人將面臨巨大的壓力，必須毫不拖延地抵達(dá)。

在話劇《阿卡狄亞》中有這樣一句臺(tái)詞：“當(dāng)我們發(fā)現(xiàn)了所有的奧秘，并失去了所有的意義時(shí)，我們將會(huì)在空蕩蕩的海邊孤身一人。” 在人工智能的探索之路上，也許人類永遠(yuǎn)無(wú)法探知所有的奧秘，又或許會(huì)時(shí)時(shí)懷疑這段探索之旅的意義，但所幸的是，即使在深度學(xué)習(xí)的寒冬中，無(wú)論是辛頓還是楊立昆，都不曾真正孤身一人。

編輯：黃飛

?