很難想象，未來50年中還有別的技術比人工智能對人類世界的影響更大。目前，機器學***技術正幫助我們的計算機自學各種技能，因此各種突破指日可待，無論是醫療診斷，還是無人駕駛汽車。與此同時，人們也產生了越來越大的擔憂。

　　誰將控制科技？

　　技術是否將搶走我們的工作？

　　人工智能危險嗎？

　　美國總統奧巴馬很愿意回答這些問題。近期，奧巴馬和麻省理工學院媒體實驗室主任伊藤穰一在白宮接受了《連線》雜志的專訪，他們談到了關于人工智能的希望、熱潮和擔憂。

　　以下為專訪全文：

　　《連線》：最近怎么樣，總統先生？

　　奧巴馬：很忙，很有建設性。你知道，許多地方發生了國際危機。

　　《連線》：我希望對話能圍繞人工智能。人工智能正在從科幻小說變成現實，改變我們的生活。你是何時知道，真正的人工智能時代已經降臨？

　　奧巴馬：我的觀察是，人工智能正在以各種方式滲透至人們的生活，但我們尚未察覺。部分原因在于，流行文化對人工智能的描繪存在偏見。《連線》的讀者可能已經知道，通用人工智能和專用人工智能之間存在差別。在科幻小說中，你看到的是通用人工智能。計算機比人類更聰明，而結論是人類變得越來越沒用。隨后，人工智能給我們灌輸“毒品”，讓我們在愉快中變得肥胖，或者我們將會陷入《黑客帝國》的世界。

　　根據高級科學顧問與我的對話，我們距離這樣的現實還很遙遠。思考這樣的場景很有價值，這讓我們想象力發散，促使我們思考選擇和自由意志等問題，最終帶來圍繞專用人工智能的重要應用。我們已在生活的各個領域看到了專用人工智能，例如醫藥、交通，以及電力傳輸。這創造了更高效的經濟。如果妥善應用，專用人工智能可以帶來繁榮和機會。不過從導致就業機會減少來看，專用人工智能也存在不利的方面，而我們需要對此進行研究。這可能導致不平等，影響工資水平。

　　伊藤穰一：這也讓我們麻省理工學院的***們感到失望。然而我擔心的問題之一在于，這一領域將被年輕的孩子，尤其是白人孩子們所主導。他們將圍繞人工智能開發核心的計算技術。相對于與人交談，與計算機的對話讓他們更舒適。他們中許多人認為，如果能開發出類似科幻小說中的通用人工智能，我們將不必擔心政治和社會等許多復雜問題。他們認為，機器將為我們指明所有一切。

　　奧巴馬：是的。

　　伊藤穰一：然而他們低估了困難，我認為，今年人工智能將不再僅僅是計算機問題。所有人都需要理解人工智能的行為方式，這很重要。在媒體實驗室，我們采用術語擴展智能（擴展智能意為通過機器學***技術去強化人類智能）。因為問題在于，我們要如何給人工智能帶來社會價值？

　　奧巴馬：在我們剛剛的午餐過程中，伊藤穰一用無人駕駛汽車來舉例。技術已經在這里。我們的機器可以做出許多快速決策，大幅減少交通事故，提高交通路網的效率，協助解決導致全球變暖的碳排放等問題。然而，伊藤穰一提出了非常重要的一點，即我們可以給汽車加入什么價值？你可以做許多選擇，而最典型的問題是：當無人駕駛時，車輛可以轉向避免撞到行人，但汽車將會因此撞墻導致你自己的傷亡。這是個道德問題，而誰可以來制定這些規則？

　　伊藤穰一：在我們研究這一“搭車問題”時，我們發現許多人都更傾向于犧牲司機和乘客，確保更多人的安全。不過他們也表示，不會購買無人駕駛汽車。

　　《連線》：在我們探討人工智能的道德問題時，***將扮演什么角色？

　　奧巴馬：我的看法是，在人工智能的早期發展階段，監管框架應當支持百花齊放。***應當施加相對較少的監管，更多地投資于科研，確保基礎研究和應用研究之間的轉化。隨著技術的興起和成熟，隨后我們要考慮如何將其納入現有監管框架中。這是個更難的問題，而***需要更多參與。我們并不總是要讓新技術去適應現存監管框架，而是確保監管符合更廣泛的價值。否則我們可能會發現，某些人群將因此處于不利地位。

　　伊藤穰一：不知道你是否聽過神經多元化運動。科羅拉多州立大學教授坦佩爾·格拉丁（Temple Grandin）認為，如果莫扎特、愛因斯坦和特斯拉仍然健在，那么都會被認為是自閉癥患者。

　　奧巴馬：他們可能屬于自閉癥譜系人群。

　　伊藤穰一：是的。如果我們消除自閉癥，讓所有人的精神都保持正常，我可以打賭，麻省理工學院的許多孩子們將不會是現在這樣。無論我們討論的是自閉癥還是更廣泛的多元化，問題之一都在于，我們何時才允許市場來做出決定。即使你可能不希望自己的孩子成為愛因斯坦，但簡單地表態“我想要個普通孩子”，這也無法創造最大化的社會價值。

　　奧巴馬：這是我們與人工智能打交道時面臨的更大的問題。人類的一大特點就是會有奇思妙想。有時，一些突變或異常反而能創造出藝術和新發明。我們必須假定，如果系統是完美的，那么就是靜態的。然而讓人類發展到目前狀態，確保人類生存的重要一部分在于，我們是動態的，我們常常干出乎意料的事。我們需要思考的挑戰之一在于，何時何地讓事情嚴格按照預想中發展才合適？

　　《連線》：關于將擴展智能用于***、民營行業和學術界，研究中心在哪，或者說是否有這樣的中心？

　　伊藤穰一：我認為，麻省理工學院可能會說，應該是在麻省理工。（笑）以往，這通常是一群學術界人士，并獲得了***的協助。然而目前，大部分投資達到10億美元的實驗室都屬于企業。

　　奧巴馬：我們認識向人工智能投資的人士。如果你接觸拉里·佩奇（Larry Page）或其他這些人，他們一般的態度是，“在我們尋求獨角獸的過程中，最不想看到的是一系列***導致進度放慢”。這樣的想法可以理解。

　　然而我們看到的問題的一部分是，社會對基礎研究的投入正在減少。我們共同行動的信心正在消失，這部分是由于我們的思想和言論。

　　關于偉大的技術突破，我們仍在使用的類比是登月，即使登月已經過去了50年。有人提醒我，登月項目的耗資達到了GDP的0.5%。這聽來不算什么，但按今天的情況來看相當于每年花800億美元。實際上，我們目前每年對人工智能的投入只有不到10億美元。這一數字毫無疑問將上升，但我們需要理解的一點是，如果希望這些突破性技術去代表多元化群體的價值，那么***投資必須成為其中的一部分。如果***不參與投資，那么伊藤穰一提出的關于技術價值的問題將不會得到解答，甚至不會被討論。

　　《連線》：你提到了一種有趣的緊張關系，而伊藤穰一曾經也寫過：邊緣創新與發生在諸如太空項目中創新的差異。我們如何確保所有這些思想得到傳播？

　　奧巴馬：我想要強調的是，***提供資金并收集數據并不意味著我們會隱瞞，或是軍方需要這些。可以舉個具體例子：在精確醫療的項目中，所做工作的一部分是通過足夠多的美國人收集關于人類基因足夠大的數據集。我們的做法不是向斯坦福大學或哈佛大學提供資金，讓他們獨享這些樣本數據，而是提供了一個所有人都可以訪問的基因數據庫。我們提供了公共的數據值、公共的架構，確保研究可以被分享，而不是只被某個集團用于謀利。

　　《連線》：然而毫無疑問會存在一些風險。我們聽到伊隆·馬斯克（Elon Musk）和尼克·博斯特羅姆（Nick Bostrom）等人說，人工智能的發展有可能超過我們的理解能力。隨著我們的進步，我們要如何看待他們的言論？我們不僅試圖保護自己，還試圖保護整個人類。

　　奧巴馬：我們首先來談談最迫切的擔心。在專用人工智能的領域，這是個可以解決的問題。我們需要警惕。如果你的計算機可以下圍棋，一種有著許多變化的復雜棋類游戲，那么開發一種算法，讓你在紐約股票交易所的利潤最大化也并非遙不可及。如果有人或組織首先做到了這點，那么他們就可以迅速摧垮股市，或是導致我們對***的完備性產生懷疑。

　　隨后，可能會有一種算法說：“去滲透***密碼，研究如何發射導彈。”如果這就是軟件的全部工作，如果軟件能自我學***，同時又是個非常有效的算法，那么你就會遇到麻煩。我對國家安全團隊的指令是，目前還不用太擔心機器會掌管世界。如果你擔心的是非***組織，或是懷有敵意的活動者去滲透這些系統，那么從理論上來說，這與我們目前所做的信息安全工作沒有太大區別。這只是意味著，我們需要做得更好，因為可能部署這些系統的人也在變得更厲害。

　　伊藤穰一：總體上同意這一說法。唯一的警告是，有些人認為，有很高的概率通用人工智能會在未來10年中誕生。然而在我看來，如果希望開發出通用人工智能，那么我們需要十余項甚至二十余項突破。你可以看看，這些突破會發生在什么時間。

　　奧巴馬：你可以讓人坐在電源旁。（笑）如果你發現通用人工智能誕生，那么可以讓他立即把電源拔了。

　　伊藤穰一：重要的是找到愿意將人工智能用于善意用途的人群，包括社區和領導者，隨后研究如何給予他們幫助。

　　奧巴馬：傳統上，當我們思考安全問題，以及如何保護自己時，我們會想到盔甲和墻壁。然而目前我會越來越多地想到藥品、病毒和抗體。信息安全問題依然很困難，部分原因在于，威脅并不像是一隊***朝你沖來，而是整個系統很容易被蠕蟲入侵。這意味著，對于安全問題我們需要有不同的思考，進行不同的投資。這樣的投資可能并不性感，但卻與其他東西一樣重要。

　　很多時候我會擔心諸如傳染病的問題。你不可能建設一堵墻，將通過空氣傳播的致命流感阻擋在我們的土地外。我們需要具備的能力是建設體系，在全世界各個地方發展公共健康系統，在發現有異常時啟動開關通知我們，確保我們有迅速執行的協議和系統，讓疫苗更智能。因此，通過公共健康的模式，你就可以想象我們如何處理信息安全問題，以及如何以建設性的方式去思考人工智能威脅。

　　伊藤穰一：有趣的一方面在于我們如何看待微生物。有多方面證據顯示，利用好細菌去攻擊壞細菌，而非全面殺菌，是一種策略。

　　奧巴馬：是這樣。我不會允許寵物犬Sunny和Bo5去舔我，因為當我在路邊草坪遛狗時，我發現他們會撿地上的東西咬。我可不想要這些。（笑）

　　伊藤穰一：我們需要思考，干凈的定義是什么。信息安全和國家安全的情況也類似。我認為，如果你的思路是制定嚴格命令，或是清除一切可能的病原體，那么將非常困難。

　　《連線》：這是否可能帶來新軍備競賽的風險？

　　奧巴馬：毫無疑問，圍繞信息安全和人工智能制定國際準則、協議和認證機制還處于起步階段。這一問題之所以有趣，部分是因為攻擊和防御之間的界線正在模糊。而在人們失去對***信任的情況下，這尤為困難。全球許多國家都認為美國是信息霸主，因此是時候我們去說，“我們愿意自我限制，只要你們也愿意自我限制”。挑戰在于最復雜的***參與者，例如俄羅斯和伊朗，他們通常和我們有著不同的價值觀和準則。然而，我們需要把這些定位成國際問題，從而有效地處理。

　　伊藤穰一：我認為，我們正處于人們愿意相互溝通的黃金時代。如果我們有能力保證，資金和能源可以帶來公開的分享，那么將有很多好處。你無法憑空做得很好，目前仍是國際社會的問題。

　　奧巴馬：我認為伊藤穰一的說法完全正確。我們與對此感興趣的所有人舉辦了一系列會議。我們說得不多，而我想回頭去看的一方面是，我們需要思考經濟方面的意義。大部分人沒有花很多時間去擔心“奇點”，而是擔心“我的工作是否會被機器取代”。

　　我傾向于持樂觀態度。以往我們也曾接受過新技術，人們會看到新工作崗位被創造出來，而他們將會隨之遷移，我們的生活標準將普遍上升。我認為，由于人工智能和其他技術的普遍適用性，目前我們處于一個略微不同的時期。在這樣的體系下，高技能人才做得很好。他們可以利用自己的才能，可以通過機器界面去擴大覆蓋，增加銷售，拓展產品和服務。

　　低薪酬、弱技能的人群將越來越顯得多余，他們的工作崗位可能不會被替代，但工資將持續受到壓力。如果我們希望成功管理這樣的過渡，那么關于如何進行管理，我們需要展開全社會的對話。如果我們完成更多的生產，但其中越來越多的部分只被少數人獲取，那么我們如何確保經濟具有包容性？我們如何確保，人們擁有維持生活的收入？從支持藝術和文化發展，或是確保老兵得到合適照顧的角度來看，這又意味著什么？社會契約需要容納這些新技術，我們的經濟模式也需要容納這些技術。

　　伊藤穰一：很難猜測，什么樣的工作將被取代。如果假定你有一臺計算機，能理解醫療系統，非常善于診斷，那么相對于護士和藥劑師，醫生更容易被取代，因為護士和藥劑師的成本更低。一些高端工作崗位，例如律師和審計師，也有可能不復存在。相對而言，許多服務行業工種，以及藝術類工作，即計算機不太擅長的領域，很難被替代。我不知道你如何看待普遍基本收入，但當我們看到有崗位被替代時，一種思路是我們去看看其他模式，例如學術研究和藝術，在這些領域人們的目標不與金錢直接相關。我認為，問題之一在于，我們有一種普遍的觀念，如果你沒錢，那么算什么聰明？但實際上，在學術界，我遇到過許多沒錢的聰明人。

　　奧巴馬：完全正確，這也是我所說的重新設計社會契約。目前，無論普遍基本收入是否是正確的模式，這一模式是否被廣泛的人群所接受？這是個我們已經討論了10年、20年的話題。人工智能取代的不僅是弱技能的工作，也可能會是高技能的工作，但這些工作的可重復性很強，因此計算機有能力勝任。毋庸置疑的是，隨著人工智能得到更廣泛的應用，社會可能會越來越富裕，生產和分配之間的關聯，即干多少和掙多少之間的關聯將越來越弱化。計算機將會去完成大量工作。因此，我們需要做一些更困難的決定。我們給老師們支付的報酬不足，盡管這是困難的工作，計算機也很難做得好。因此我們需要重新評估價值觀，我們愿意為什么樣的人支付更高的報酬，是教師、護士、護工、全職媽媽、藝術家？這些事都很有價值，但在我們的薪酬體系中排序不高。我們需要啟動這樣的對話。

　　《連線》：在解決***中最大的挑戰時，你會關心什么樣的技術？

　　奧巴馬：為了讓***對人民更友好，或者說至少讓你的報稅流程變得像點披薩或買機票一樣簡單，我們還有很多工作要做。無論是鼓勵人們投票，還是推進大數據應用，幫助人們更快地完成在線表格處理，都需要做很多工作，推動聯邦***、州***和地方***進入21世紀。***和企業界的人才差距并不是那么大。然而，技術的差距是巨大的。當我首次來到這里時，我認為白宮戰情室肯定非常酷，就像是湯姆·克魯斯在《少數派報告》中場景。實際上根本不是這樣。（笑）特別是我們要打擊地球另一邊的***時，電影會把我們描繪成為無所不能，實際并非如此。我們的資金不足，機制設置也不合理。

　　關于圍繞技術更廣泛的問題，我堅定地相信，如果我們希望正確處理氣候改變，如果我們想要踩下剎車，阻止海平面上升6英尺，那么人類需要弄清一些問題。我是樂觀主義者。我們已經完成了許多不錯的工作，但還有很長的路要走。

　　關于我們要如何以負責任、透明、安全的方式管理互聯網上的連接，幫助我們找出壞家伙，并保證***不會對我們所有人的生活造成太大干擾，我們仍在進行研究。其中一些是技術問題，加密就是很好的例子。我多次見過自由主義者和與國家安全相關的人士。這是個棘手的問題，因為關于我們要如何調和這一問題，沒有人能給我真正好的答案。

　　由于這是個前沿問題，我希望提到的最后一點是，我仍是個太空迷，而在對下一代太空旅行展開探索的過程中我們的資金投入不足。民營公司完成了很棒的工作，因為對瘋狂概念的投資已經取代了***投資。不過當我們設想太空飛行時，我們研究的仍然是“阿波羅”時代的化學反應。時間已經過了50年，我們應當取得一些突破。

　　《連線》：我知道你是《星際迷航》的粉絲。這部電影的靈感來自于對技術的烏托邦式理想。在你對未來的看法中，這帶來了什么影響？

　　奧巴馬：當我還是小孩子時，我就很喜歡《星際迷航》。電影很有趣。讓這部電影經久不衰的是，這實際上與技術無關。這關于價值觀和人際關系。這也說明了，為何特效不是那么重要。這部電影探討的關鍵在于共同人性，以及我們解決問題能力的信心。

　　近期有部電影反映了同樣的精神，這就是《火星救援》。不僅是因為這有著復雜的場景，也是由于電影中展示了許多不同人物嘗試解決同一個問題。通過創造性和努力，并堅信最終能夠成功，我們就可以做到。這是我最喜歡美國的一點，也是這部電影持續吸引全球各地觀眾的原因，即對于面臨的問題，我們的精神是“我們可以解決這個問題”。以這種觀念來看，科學最大的價值也是在于幫助我們解決問題。我們會嘗試，如果不成功，我們將會探索為何不成功，隨后再進行別的嘗試。我們將***自己的錯誤，因為這最終將教會我們如何解決問題。如果失去這樣的精神，我們將會失去美國的本質和人類的本質。

　　伊藤穰一：完全贊成。我喜歡《星際迷航》中的樂觀精神。而我也看到，聯邦的構成非常多元化，船員多元化，而壞家伙實際上并不是惡魔，他們只是被誤導。

　　奧巴馬：與任何優秀的故事一樣，《星際迷航》所說的是，我們所有人都很復雜，我們總是有多個側面。這就是我所說的解決問題。解決問題的一部分是克服障礙，彌合差異。我們相信理性，并保持一定的謙卑。對最優秀的藝術和科學來說，情況都是這樣。我們已經掌握了可以為我所用的許多難以置信的思想。然而，我們仍只揭開了幕布一角，不應該過于自大。我們應當提醒自己，還有很多是我們不知道的。