一個跨學(xué)科的研究小組希望創(chuàng)建一個名為「機器行為」的新學(xué)科，以了解人工智能將如何對我們的社會、文化、經(jīng)濟與政治造成影響。

在《自然》雜志的一篇評論文章中，作者認為人工智能算法的研究需要擴展到計算機科學(xué)以外的領(lǐng)域，納入包括來自物理和社會科學(xué)的觀點。

據(jù)了解，有兩名 CIFAR 研究員是這篇論文的共同作者:

Hugo Larochelle，加拿大 CIFAR AI 主席、機器與大腦學(xué)習(xí)項目副主任、谷歌大腦研究科學(xué)家、Mila 成員。

Matthew Jackson ，斯坦福大學(xué)經(jīng)濟學(xué)教授，CIFAR 機構(gòu)、組織與增長項目 (CIFAR Institutions, Organizations & Growth program) 研究員、人際網(wǎng)絡(luò)專家、新書《人際網(wǎng)絡(luò)》(the human Network) 的作者，該書研究了社會等級與交互的影響。

本篇采訪經(jīng)過刪減和編輯，以保持全文清晰和簡潔。

論文鏈接：

https://www.nature.com/articles/s41586-019-1138-y

論文摘要：

由人工智能驅(qū)動的機器越來越多參與到我們的社會、文化、經(jīng)濟和政治的互動調(diào)節(jié)上。理解人工智能系統(tǒng)的行為，對于我們控制它們的行為、從中獲取利益并將危害降到最低來說而言重要。我們認為這需要一個廣泛的科學(xué)研究議程來進行研究，它結(jié)合并擴展了計算機科學(xué)學(xué)科，包含來自不同科學(xué)領(lǐng)域的見解。我們首先在文中概述一系列關(guān)于這一新興領(lǐng)域的關(guān)鍵問題，接著探討機器行為研究的技術(shù)、法律和制度約束等內(nèi)容。

你是在什么機緣下參與到這篇論文的寫作的?

Hugo Larochelle：論文的第一作者 Iyad Rahwan (麻省理工學(xué)院媒體實驗室) 找上了我。他想把人工智能和機器與社會互動的不同觀點結(jié)合起來。然后他希望我為論文的技術(shù)計算機科學(xué)與機器學(xué)習(xí)部分的內(nèi)容做出貢獻。

Iyad 是名很有意思的研究員，他做的事情與我習(xí)慣的傳統(tǒng)機器學(xué)習(xí)和深度學(xué)習(xí)做事方式很不一樣。這也是我決定加入 CIFAR 的部分原因。這個試圖聚集不同背景的研究人員以促成互相學(xué)習(xí)的想法吸引了我。

Matthew Jackson：我之所以參與是因為我本身就是研究網(wǎng)絡(luò)的，我試圖了解人類互動的不同結(jié)構(gòu)是如何影響他們的行為。由于社交媒體平臺的存在，如今我們擁有大量的算法視角。此外，我還研究人類社會中的不平等、流動性和其他結(jié)構(gòu)，這些結(jié)構(gòu)正因高頻的人機交互而變本加厲。

本文列出一系列屬于機器行為的示例問題。如果讓你選一個，你覺得哪個最有意思?

Hugo Larochelle：我最感興趣的問題是關(guān)于對話機器人的，因為它是人與機器的交互中最直接的。從技術(shù)上講，機器人還沒有達到它們本可以做的那么好。另外還有一個深層次的問題是，我們?nèi)绾慰创婕皺C器的對話行為。與機器對話的感覺很不一樣，抑或是很相似? 這意味著什么? 我認為這里有一些非常有趣的問題我們還沒有完全探索過。

Matthew Jackson：關(guān)于人際網(wǎng)絡(luò)與網(wǎng)上約會的問題正好契合我的研究課題。人們傾向于與自己相似的人進行交往。這在文獻中被稱為「同質(zhì)性」。這種情況的發(fā)生涉及性別、宗教、年齡、職業(yè)與種族等基礎(chǔ)性質(zhì)。人們傾向于與自己相似的人聚會、交友、聊天。

類似在線約會的技術(shù)正在使人們有很大幾率變得更加挑剔。如今你可以清楚見到一個人的所有屬性，并準(zhǔn)確選擇你想要的人。仔細想想 LinkedIn 或 Facebook 網(wǎng)站給你推薦朋友的方式，就會明白算法試圖挑選的都是你會有興趣想要聯(lián)系的人。這降低了人們建立隨機友誼的幾率，且增加更多那些有針對性、與你更相似的友誼建立。

這既有積極也有消極的一面。一方面，這些人是你想要聯(lián)系的，因為他們與你有共同的興趣和信仰，同時這也增加了社會的隔離現(xiàn)象，形成更多回音室效應(yīng)。

對本篇論文的貢獻如何影響你的工作?

Matthew Jackson：我已經(jīng)開始在思考當(dāng)中的一些問題。如果未能意識到新技術(shù)的出現(xiàn)如何讓社交網(wǎng)絡(luò)發(fā)生根本性變化，那么很難在這個領(lǐng)域有所建樹。

但與 Iyad 以及其他合著作者的交談，使我的觀點開闊了不少。他一直非常積極試圖去理解算法使用中的道德問題，比如在自動駕駛汽車編程上的優(yōu)先級問題。每當(dāng)一家公司寫下一種改變新聞推送方式的算法，或?qū)μ岢鲆粋€你應(yīng)該和誰交朋友的建議時，其實都存在一個道德和倫理的立場。

Hugo Larochelle：我認為這讓我對人們?nèi)绾慰创斯ぶ悄苡辛烁嗔私狻＿€有他們究竟感興趣哪些問題。這也是我參與本文寫作的原因。我覺得作為一名人工智能和機器學(xué)習(xí)方面的研究科學(xué)家，我有義務(wù)貢獻我所擁有的知識來引領(lǐng)對話。

為何研究人工智能算法的社會影響會如此困難?

Matthew Jackson：首先，很多算法都是私有的，你無法直接訪問它們。作為社會科學(xué)家，我們無法進入黑盒子里。因此，我們只能間接地研究它們。況且，大多數(shù)公司都不希望自己的資料被人搜刮和檢查，或者或者讓研究人員生成假的配置文件。換句話說，對于我們能看到什么以及如何看到它，都有一系列限制。

更棘手的是弄清楚其中的含義。無論何時只要所做的研究涉及人體，就必須非常小心做研究的方法。加上現(xiàn)在我們試圖以越來越大的規(guī)模上去做這件事情，留意的是那些越來越難被觀察到的東西，一旦出錯將會造成更大的影響。毫無疑問，這對研究而言是一項大挑戰(zhàn)。

機器學(xué)習(xí)專家對他們的算法所造成的社會影響感興趣，這種現(xiàn)象有多普遍?

Hugo Larochelle：我認為，機器學(xué)習(xí)圈里的人如今肯定越來越意識到，我們應(yīng)該以負責(zé)任的方式來使用技術(shù)。例如，在谷歌里我們發(fā)表了《負責(zé)任的人工智能實踐》(Responsible AI Practices)，我們試圖引導(dǎo)人們形成這樣一種心態(tài)，即技術(shù)可以用于好的方面，也可以用于壞的方面。

作為一名研究科學(xué)家，我認為我們有義務(wù)去研究我們所創(chuàng)造出來的技術(shù)，在這個例子中是機器學(xué)習(xí)和人工智能，并以我們能做到的最好方式來描述它。這意味著我們應(yīng)該識別出它有哪些做得好的地方，以及哪些做得不好的地方。

目前機器學(xué)習(xí)社區(qū)中有很多關(guān)于「負責(zé)任的人工智能」研究試圖讓系統(tǒng)變得更具可解釋性，以幫助我們更好地理解這些系統(tǒng)的工作原理和行為模式。此外，為了使機器學(xué)習(xí)模型和系統(tǒng)的創(chuàng)建變得更加透明，還試圖努力去制作模型卡與數(shù)據(jù)表。我認為這使我們處于一個有利的位置，以便能與擁有計算機科學(xué)以外背景的人進行技術(shù)上的對話。

最后，你還有什么想說的嗎?

Matthew Jackson：當(dāng)你是一名研究人員，很多時候你是在研究人們已經(jīng)研究了很長時間的問題，然后突然，一個大問題出現(xiàn)了。這讓人感到新鮮。

對于一名研究人員來說，這真是一個非常有意思的時間點。我認為未來的人們會回頭看并說道，「看，21 世紀(jì)初，人們突然意識到人類與人工智能之間的相互作用。」

Hugo Larochelle：我們應(yīng)該經(jīng)常尋找解決問題的新方法。這也是我加入 CIFAR 的原因。當(dāng)然，這很難，但重要的是我們要不斷嘗試讓不同背景的人參與進來。