人工智能技術的飛速發(fā)展為生產(chǎn)效率的提高帶來了跨越式的改變，但同時也給人類未來引發(fā)了一系列挑戰(zhàn)。其中，人工智能發(fā)展最大的問題，不是技術上的瓶頸，而是人工智能與人類的關系問題，這催生了人工智能倫理問題的爭議。《銀翼殺手》《西部世界》等影視劇中人工智能反抗甚至超越人類的場景是否真的可能出現(xiàn)？我們又將如何有效規(guī)制人工智能技術和產(chǎn)業(yè)的發(fā)展呢？帶著這些問題，看看新聞knews記者專訪了上海社會科學院互聯(lián)網(wǎng)研究中心主任、研究員惠志斌。

看看新聞knews記者：“人工智能發(fā)展至今面臨了哪些方面的倫理挑戰(zhàn)？”

惠志斌：“人工智能的技術，是一個變革性的技術，它對整個政治經(jīng)濟社會等各領域都是全方面的重塑。第一從經(jīng)濟層面來說結(jié)構(gòu)性的失業(yè)是一個很大的問題。智能化的技術會去取代我們的一些簡單重復性的勞動職業(yè)，比如說我們的收銀員，比如說我們的流水線上一線工人都會有可能被結(jié)構(gòu)性地替代。第二我覺得從社會層面來說，我們面臨著數(shù)據(jù)隱私方面非常大的挑戰(zhàn)。我們走在這樣一個智慧城市的體系里面，我們是不是需要擔心我們的所有的行蹤，我們所有做的一些行為都會被無差別地記錄下來。第三方面的影響在軍事領域。越來越多的自動化武器系統(tǒng)的產(chǎn)生，會不會就顛覆了我們傳統(tǒng)的一些戰(zhàn)爭形態(tài)。第四方面從家庭倫理的角度考量，類似陪護這樣機器人的出現(xiàn)，有可能它會對我們的婚姻制度造成重大的挑戰(zhàn)。”

看看新聞knews記者：“人臉識別技術的廣泛應用引發(fā)爭議，大家認為在技術進步的同時也侵犯了公民隱私權，就此您如何看待？”

惠志斌：“人臉識別等等一系列方面的應用，其實很多國家已經(jīng)開始對它進行一些規(guī)范，不是說完全不用或者不是說完全放棄這樣的一個人臉識別技術。就是說我們在使用這樣的人臉識別技術的時候，需要考慮更多的對公民的隱私權的一些保護，不要進行一些大規(guī)模的、無差別的，沒有經(jīng)過用戶同意和授權的，或者是不僅僅是公共場所，甚至一些半公共場所，甚至一些涉及到比如說我們的有一定的私人領域里，都進行了這樣的人工智能的技術的一種監(jiān)控，那這個會帶來我覺得對一些社會的一些影響。”

看看新聞knews記者：“facebook選擇關閉智能對話機器人項目，IBM、亞馬遜和微軟聲明不再向警方提供人臉識別。您認為這是不是公司為了避免陷入倫理爭議而做出的一種放棄？”

惠志斌：“這些技術的創(chuàng)新尤其是在過去的二十年，發(fā)展非常之快。但是原來的一些配套性制度、法律，其實相對來說它還是一個滯后的狀態(tài)，那么在這樣的一個滯后狀態(tài)下很多社會的共識又沒有完全形成。在這個過程中很多公司他們也在積極地去嘗試，做制度層面的一些探索。我認為這些公司它并不是不使用，并不是完全放棄這個技術。它可能需要去等一等，它需要看到社會對這個技術的接納或者是適應的程度究竟如何，法律與相關的其他配套性制度有沒有逐步地完善起來。當這些逐步地完善起來的時候，我相信技術可以更好地發(fā)展。這就像兩個輪子一樣，它需要兩個去協(xié)調(diào)和配套。當一個輪子跑太快的時候那肯定是要翻車的，所以一個輪子它在等另一個輪子怎么走上來，怎么讓制度建設這個輪子更好地去配合科技產(chǎn)業(yè)這個輪子的發(fā)展。”

看看新聞knews記者：“倫理問題的爭議是否有可能對人工智能的發(fā)展產(chǎn)生影響呢？”

惠志斌：“人工智能這樣的一個技術所帶來的其實是對傳統(tǒng)的一些經(jīng)濟社會形態(tài)的重大改變。那在這個里面它必然伴生著一些倫理問題的產(chǎn)生。這就好像是一個硬幣的兩個方面，當我們不能夠很好地解決這樣的倫理問題，包括法治的、安全的等等一系列的問題的時候，我們?nèi)斯ぶ悄艿漠a(chǎn)業(yè)、技術也有可能受到限制。它在發(fā)展中間也許就會對這個社會造成重大的沖擊。當社會無法承受的時候，可能就反向地會去遏制人工智能技術人工智能產(chǎn)業(yè)的健康發(fā)展。”

看看新聞knews記者：“倫理問題在人工智能發(fā)展過程中的意義是什么？”

惠志斌：“我們都要有一定的共識，到底什么樣的人工智能的技術和應用是應該去倡導的，是應該去鼓勵的；什么樣的人工智能技術我們還需要去看一看，還需要去等一等。我們首先考量它的風險到底有多大，再去看它的技術到底用不用。那在倫理這個層面，我們經(jīng)過深入探討，有了更多的共識以后，然后我們才可以更加精準地去進行一些符合未來發(fā)展方向的立法和執(zhí)法，以及其他配套性的制度建設。所以倫理是基礎，是人工智能發(fā)展過程中大家共識形成的一個過程。”

看看新聞knews記者：“公眾對于人工智能可能擺脫人類控制甚至反噬人類的擔憂，您如何看待？”

惠志斌：“目前人工智能總體來說還處于一個弱人工智能時代，在這個階段里面，我覺得大部分的人工智能產(chǎn)品和技術還是相對可控的。但是隨著技術的發(fā)展，人工智能必然向著強人工智能或者是通用人工智能的時代去演進，但在這個過程中間，我們還是需要去高度警惕。因為人工智能可能是人類有史以來唯一無法試錯的這樣的技術，一旦它脫離了人的控制，有可能對人類就是一個滅頂之災。”
? ? ? ?責任編輯:pj