AI 對人類是威脅嗎

　　有新聞報道稱，人工智能（AI）

　　研究盡管在未來可能取得成功且前途

　　不可限量，但潛在的長期風險正逐

　　漸顯示出來。奧倫·埃齊奧尼（Oren

　　Etzioni）是一位知名的人工智能研究

　　人員，他對此感到不滿（參見《專

　　家并不認為超級智能對人類是一種

　　威脅》）。在他直接公開指責牛津大

　　學 哲 學 家 尼 克· 波 斯 特 羅 姆（Nick

　　Bostrom）和他的最新著作《超級智能》

　　（Superintelligence）后，埃齊奧尼指出，

　　波斯特羅姆提出的“即將出現的人類

　　層級智能的主要數據源”來自對 AI

　　□艾倫·達福（Allan Dafoe） 斯圖爾特·羅素（Stuart Russell）

　　人工智能的真正風險

　　最好是期待人類的聰明才智，而非低估它；最好是承認風險的存在，而非否認它

　　研究人員意見的調查。在此之后，埃

　　齊奧尼自己也對 AI 研究人員的意見

　　進行了調查，聲稱他得出的結論推翻

　　了波斯特羅姆的觀點。

　　要知道，埃齊奧尼甚至沒提到為

　　什么他公開譴責《超級智能》所造成

　　的影響，這點很重要。他也沒有解釋

　　清楚為什么超級智能的 AI 可能會造

　　成無法把控的負面影響，為什么提前

　　開始解決 AI 的問題是如此重要。波

　　斯特羅姆并沒有把事實建立在超人類

　　AI 系統即將來臨的這個預測上，他在

　　著作中寫道 ：“本書并不是在表明我

　　們正處于人工智能重大突破的開端，

　　也沒有表明我們可以準確預測這一重

　　大進展何時會發生。”

　　因此，在我們看來，埃齊奧尼的

　　文章轉移了讀者的注意力，使讀者沒

　　有關注該書的核心內容。埃齊奧尼以

　　質疑調查結果為由，直接從個人偏好

　　的角度出發攻擊波斯特羅姆。我們覺

　　得有必要更正一下。我們的一位同事

　　（拉塞爾）甚至還參與了埃齊奧尼的

　　調查，但卻發現他的回答完全被埃齊

　　奧尼曲解了。事實上，根據我們的詳

　　細分析，埃齊奧尼的調查結果與波斯

　　特羅姆的觀點完全一致。

　　那么，埃齊奧尼是如何得出他的

　　新結論的呢？他自己設計了一份調查

　　問卷，不過問卷的質量比波斯特羅姆