AI 對(duì)人類(lèi)是威脅嗎

　　有新聞報(bào)道稱，人工智能（AI）

　　研究盡管在未來(lái)可能取得成功且前途

　　不可限量，但潛在的長(zhǎng)期風(fēng)險(xiǎn)正逐

　　漸顯示出來(lái)。奧倫·埃齊奧尼（Oren

　　Etzioni）是一位知名的人工智能研究

　　人員，他對(duì)此感到不滿（參見(jiàn)《專(zhuān)

　　家并不認(rèn)為超級(jí)智能對(duì)人類(lèi)是一種

　　威脅》）。在他直接公開(kāi)指責(zé)牛津大

　　學(xué) 哲 學(xué) 家 尼 克· 波 斯 特 羅 姆（Nick

　　Bostrom）和他的最新著作《超級(jí)智能》

　　（Superintelligence）后，埃齊奧尼指出，

　　波斯特羅姆提出的“即將出現(xiàn)的人類(lèi)

　　層級(jí)智能的主要數(shù)據(jù)源”來(lái)自對(duì) AI

　　□艾倫·達(dá)福（Allan Dafoe） 斯圖爾特·羅素（Stuart Russell）

　　人工智能的真正風(fēng)險(xiǎn)

　　最好是期待人類(lèi)的聰明才智，而非低估它；最好是承認(rèn)風(fēng)險(xiǎn)的存在，而非否認(rèn)它

　　研究人員意見(jiàn)的調(diào)查。在此之后，埃

　　齊奧尼自己也對(duì) AI 研究人員的意見(jiàn)

　　進(jìn)行了調(diào)查，聲稱他得出的結(jié)論推翻

　　了波斯特羅姆的觀點(diǎn)。

　　要知道，埃齊奧尼甚至沒(méi)提到為

　　什么他公開(kāi)譴責(zé)《超級(jí)智能》所造成

　　的影響，這點(diǎn)很重要。他也沒(méi)有解釋

　　清楚為什么超級(jí)智能的 AI 可能會(huì)造

　　成無(wú)法把控的負(fù)面影響，為什么提前

　　開(kāi)始解決 AI 的問(wèn)題是如此重要。波

　　斯特羅姆并沒(méi)有把事實(shí)建立在超人類(lèi)

　　AI 系統(tǒng)即將來(lái)臨的這個(gè)預(yù)測(cè)上，他在

　　著作中寫(xiě)道 ：“本書(shū)并不是在表明我

　　們正處于人工智能重大突破的開(kāi)端，

　　也沒(méi)有表明我們可以準(zhǔn)確預(yù)測(cè)這一重

　　大進(jìn)展何時(shí)會(huì)發(fā)生。”

　　因此，在我們看來(lái)，埃齊奧尼的

　　文章轉(zhuǎn)移了讀者的注意力，使讀者沒(méi)

　　有關(guān)注該書(shū)的核心內(nèi)容。埃齊奧尼以

　　質(zhì)疑調(diào)查結(jié)果為由，直接從個(gè)人偏好

　　的角度出發(fā)攻擊波斯特羅姆。我們覺(jué)

　　得有必要更正一下。我們的一位同事

　　（拉塞爾）甚至還參與了埃齊奧尼的

　　調(diào)查，但卻發(fā)現(xiàn)他的回答完全被埃齊

　　奧尼曲解了。事實(shí)上，根據(jù)我們的詳

　　細(xì)分析，埃齊奧尼的調(diào)查結(jié)果與波斯

　　特羅姆的觀點(diǎn)完全一致。

　　那么，埃齊奧尼是如何得出他的

　　新結(jié)論的呢？他自己設(shè)計(jì)了一份調(diào)查

　　問(wèn)卷，不過(guò)問(wèn)卷的質(zhì)量比波斯特羅姆