在新智元AI World 2018世界人工智能峰會上，MIT物理系終身教授、未來生命研究所創始人、《生命3.0》的作者Max Tegmark作了《人類如何通過人工智能“賦能”，而不是被其“操縱”》的研究，Tegmark認為，我們應該認真思考未來，思考如何引領技術發展的方向，讓AI會增強人類，而非操縱人類。

9月20日，在新智元AI World 2018世界人工智能峰會上，MIT物理系終身教授、未來生命研究所創始人、《生命3.0》的作者Max Tegmark分享了他對“更遠的未來”的想法。

Tegmark在他的暢銷書《生命3.0》中設想了一個具有發展階段的生命歷程。生命1.0就是最原始的生命形式，如細胞，生命只是在不停復制。

到了生命2.0階段，這是人類所在的地方：人類能夠學習，適應不斷變化的環境，并能有意地改變這些環境。但我們還不能改變我們的身體自身，不能改變我們的生物遺傳。Tegmark 將這種對比比喻成軟件和硬件之間的對比。

第三個階段，即生命 3.0 階段。在這個階段，我們把人工智能用于所有任務，也就是所謂的AGI（通用人工智能）。人類不僅可以重新設計自身的軟件，還可以重新設計自身的硬件。

Tegmark說，我們現在技術發展和AI發展的現狀非常復雜，但是有一點可以確定，就是大多數的研究員在某種程度上已經能夠建立AGI，AI在很多任務上已經能做得比人類更好。當然，這也是非常有爭議的部分，可能會帶來技術的爆炸。

Tegmark表示，如果考慮未來可能面臨的挑戰，這會是人類歷史上犯下的一個巨大的錯誤。但是因為技術是如此的有力，我們在實現技術能力的道路上會犯下很多錯誤。我們應該如何引導技術的發展，為人類創造一個非常美好的未來，這是美國、中國以及所有國家都應該思考的問題。

以下是Max Tegmark在新智元AI World 2018世界人工智能峰會上的演講實錄，他的演講主題是《人類如何通過人工智能“賦能”，而不是被其“操縱”》。

從生命1.0到生命3.0

Max Tegmark：非常高興能夠來到這里，前面幾位嘉賓已經談了很多最近AI的驚人發展，以及在不久的未來我們期望看到的AI的進一步發展。接下來我就和大家談一談更遠的未來。

首先讓我們回顧一下AI在宇宙透視圖當中的位置，宇宙是從哪里來的呢？我們是怎么成為現在的自己呢？怎樣從一個非常小的行星，形成了一個巨大的宇宙？我們用望遠鏡也可以看到，整個宇宙是非常巨大的，盡管是地球給了我們生命，但宇宙似乎仍舊不被我們所理解，宇宙實際上讓我們敬畏。

我們正在研發的技術能夠幫助我們去了解生命，不僅僅是幾個世紀以前，甚至是幾十億年以前的生命。

我把最早的生命稱作生命1.0（Life 1.0），因為它是最原始的生命形式，例如細胞，這一階段的生命無法學習。

我把人類生命稱作生命2.0（Life 2.0），我們已經可以學習了，而且可以 在我們的大腦中安裝新的軟件，比如語言、工作技能。所有這些使人類成為成為世界上最強大的物種。

在生命3.0（Life 3.0），我們不僅能夠開發軟件，而且能夠開發硬件。當然，Life 3.0現在還不存在。不過或許技術已經發展到Life 2.1的階段，創造出人工義肢、心臟起搏器等等增強我們身體的硬件。

那么，讓我們看一下我們與技術的關系。

AI將在所有任務達到人類水平

我們的世界是非常神奇的，我們知道如何明智地使用技術去實現我們的夢想。例如發射火箭，我們知道如何給火箭的方向定位，如何達到那個目標，所以我們就需要動力、方向和目標。

但還有一段更鼓舞人心的旅程，它的動力比火箭的發動機更強大，它的乘客不僅是宇航員，而是整個人類。

我們要談論的是人類整體去往AI的未來的旅程。對于發射火箭來說，光有動力還不行，我們要知道它的方向和目標。對于AI也是如此，接下來我們將談論AI的動力、方向和目標。

什么是智能？智能就是去完成復雜目標的能力，目標越復雜我們就需要越多的智能。智能分為兩種：生物智能和人工智能。

智能就是關于所有信息處理的能力，不管是用大腦細胞的碳原子來處理，還是用GPU的硅原子還處理，或者其它我們創造出來的技術。

AI的發展如此迅速，讓人振奮。不久前我們還沒造出會走路的機器人，現在機器人已經會做后空翻了；不久前我們還沒有做出無人駕駛汽車，現在已經有自主的火箭了，它能夠自己著陸。不久前還不能用AI進行人臉識別，現在AI不久能很好地實現人臉識別，還能模擬和創造假的人臉。

不久前AI還不能在圍棋中勝過人類，但現在，正如你們知道的，AlphaGo已經打敗了世界上最厲害的圍棋手，那還是使用很多人類經驗、經過很長時間訓練的。后來的AlphaZero甚至完全不使用人類經驗，僅僅自我訓練了24小時，最終誕生出世界上最好的圍棋AI。

所有的這些進步實際上會帶來一些商業化的應用，比如關于醫療，利用AI去診斷前列腺癌、肺癌和眼部疾病方面，甚至做外科手術，AI可以幫助我們實現目的。

我們說了很多AI方面取得的進展，這就提出一個基本的問題：AI能夠幫助我們做什么？AI會給中國帶來哪些好處？當然，肯定是能夠讓中國的商業更加發達，也幫助中國的企業更加富有，比如如何通過AI改善教育、養老、醫療保健等等，可以讓我們過得更加幸福。

但在更遠的未來呢？這些技術能夠持續到多遠的未來？未來會發生什么？

對于“人工智能取代人類”的擔憂，從來都不是沒有來由的。我現在用人類能力地形圖來說明這個問題。

圖中的海拔高度代表了AI在執行這些任務時達到人類水平的難度，海平面則表示了當下AI所能達到的水平。海平面會隨著AI的進步上升，所以在這張地形圖上，會發現類似“全球變暖”的變化。我們顯然要避免那些近海區的工作，這些工作遲早會被人工智能取代。

那么一個問題是：AI最終將上升到多高的地方？海面最終會將所有的陸地覆蓋嗎？像下面這張圖這樣，AI在幾乎所有任務中都達到了人類水平？

這就是通用人工智能（AGI）的定義。可能有人會說：“還有很多事情是人類做得比機器好的！我們永遠不會到達AGI！”

如果你認為AGI只是科幻故事，還有一種更瘋狂的觀點我們需要談一下，就是超級智能（super intelligence）。因為如果我們成功制造了AGI，那么從定義上來說，AI在所有工作上都比人類做得更好，包括在AI設計的工作上。

當然，這也是一個非常有爭議的部分，可能會帶來技術的爆炸，因為我們一直去讓AI提升，最終可能AI會比人類做得好很多。

AI領域專家對此有不同的觀點。例如Rodney Brooks，他認為再過幾個世紀也不會出現AGI。但Demis Hassabis的觀點就更積極，認為AGI會實現，而且要更努力研究使其實現。

此外，最近的一項調查顯示，大部分AI研究人員和Demis Hassabis的觀點是一致的，認為AGI能實現，可能是在50年后。

雖然沒有確定的答案，但思考這個問題是很重要的。如果機器能夠做任何事情，那還要人干什么？這對人類意味著什么？所以我們面臨著一種選擇：要么就是非常滿足于此，我們構建這些機器讓它們來代替人類做所有事情，不用考慮后果如何。

但我認為我們應該更有野心一些。在令人鼓舞的高科技未來面前，我們應該試著掌舵它的方向。

掌舵AI發展的方向：一個全球性挑戰

現在讓我們來到火箭發射的“Steering”（方向）部分。我們已經讓技術越來越強大，你們該如何引導技術，讓技術幫助人類進步？

我和其他科學家一起成立了未來生命研究所。我們的目標很簡單，就是讓未來的生活更加激勵人心、鼓舞人心。

我喜歡技術，我認為今天的世界比明朝的時候好，正是因為我們擁有技術。我很樂觀地相信我們將建成一個非常高科技的未來，只要我們最終贏得這場競賽。什么競賽呢？就是越來越強大的科技和人類掌控這些技術的越來越強大的智慧之間的競賽。

要贏得這場競賽，人類需要改變策略。過去我們一直是從錯誤中學習。比如剛開始我們發明了火，經歷了無數火災之后，我們發明了滅火器。我們發明了汽車，出了幾次車禍事故之后，我們又發明了紅綠燈、安全氣囊、安全帶等等，以及一系列交通法規。

從錯誤中學習是好的，這讓科技朝著造福人類社會的方向發展。

但隨著技術變得越來越強大，最終會達到一個點，這是你不能再從錯誤中學習了。比如核武器，沒有人會希望俄羅斯和美國爆發一場核戰爭，然后說讓我們從這場錯誤中學習，以后要更加小心，云云。更好是主動前瞻，在一開始就做正確的事情。

在開發更強大的AI時，我們也應該有這種前瞻意識。這看起來是理所當然的想法，但有趣的是，有時候會有人跟我說：“馬克，你不要說那樣的話了，你那是在散布恐慌。”

這不是制造恐慌，在MIT，我們把這叫做“安全工程”（safety engineering）。

比如，在美國航天局部署阿波羅11號任務之前，在中國發射自己載人衛星之前，他們都會仔細地設 想所有可能出錯的狀況，畢竟是要把人類放進易燃易爆的太空艙里，再將他們發射上一個無人能助的境遇。這是在制造恐慌嗎？不，那正是在做安全工程，以確保任務順利進行，這正是處理通用人工智能或其他強有力的科技時應該采取的策略。

人工智能的方向其實是一個全球性的挑戰，就像氣候變化一樣，這些問題讓單個國家解決可能是非常難。我認為中國實際上以一個非常獨特的地位在引領AI的發展，不僅是讓AI更加強大，也讓AI帶來好處。為什么這樣說呢？因為中國是全球AI技術的引領者，中國在這個領域的研究不僅關注讓AI更加強大，而且保證AI是安全和有益于人類的。

此外，我認為中國的文化也有利于AI。因為中國是人類最古老的文明，有著非常強大的長期思考和長 期規劃的能力。我是西方人，大多數西方國家的人在別人談論到長遠計劃或者未來的事情都會大笑，認為要真正到了那個時候才應該計劃下一步的事情。但我們是要去考慮未來的，我們需要有中國人的智慧，把很多事情放到全球的議事日程上來，知道未來我們發展的方向。

我們組織了阿西洛馬人工智能原則會議。

其中的一個原則就是我們應該避免致命自主武器的出現和軍備競賽，應該幫助人類而不是危害人類，比如開發新的藥品和材料，而不是去傷害人們。我們也應該保證AI能夠給我們帶來新的解決方案，而不是給人類帶來災難。

我們在西方做了一次調查，問他們要什么樣的未來。很多人的回答是希望實現超級智能，但有些人會有些擔心，有的人有一點保留。有的人擔心最終機器會控制這個世界。

我認為“AI最終會變得邪惡”、“AI會擁有意識”，這些是不必要的擔心，實際應該擔心的是日益強大的AI與我們的目標不一致。我想說的最后一個原則就是，如果我們要構建超級智能，它只能是為了全人類的好處而構建，而不是為了某個國家、某個公司或某個組織的益處。

AI增強人類，而非操縱人類

那么我們的目標是什么？我們究竟要走向何方？

總的來說，我們與技術和未來AI的關系是非常復雜的，但大方向上很簡單，就是大部分研究人員希望在某種程度上已經建立AGI，或者在50年后能夠實現AGI。如果考慮未來可能面臨的挑戰，這會是人類歷史上犯下的一個巨大的錯誤，但讓我們面對它。因為AI技術是如此的強大，我們在實現它的道路上肯定會犯下很多錯誤。

另一方面，如果我們好好思考我們想要達到的目標是什么，找到如何引導技術方向的方法，我們就將創造出一個非常美好的未來。

這就是我們面臨的選擇。我們可以滿足于現狀，也可以更有雄心一些，思考如何引領技術發展的方向，思考我們要去往怎樣的未來，創造一個真正讓人興奮的未來。我認為未來我們不是被AI控制，而是AI會增強我們。