前段時(shí)間，一些視頻在網(wǎng)上廣泛傳播。有人在1994年電視劇《射雕英雄傳》中使用人工智能技術(shù)，將演員朱茵扮演的黃蓉一角換成了楊冪，效果幾可亂真；還有人將人工合成的“美國(guó)前總統(tǒng)奧巴馬”放在境外社交媒體上，吐糟現(xiàn)任總統(tǒng)特朗普是“徹頭徹尾的笨蛋”。

人們看了之后，大多當(dāng)做網(wǎng)絡(luò)段子一笑而過，但仔細(xì)想想的話，如果你的臉也被用來制作假視頻、假新聞，你還能笑得出來嗎？

實(shí)際上，人工智能技術(shù)的濫用和因算法漏洞引起的安全問題，已經(jīng)引起了業(yè)內(nèi)人士的高度警覺，一場(chǎng)看不見硝煙的“攻防戰(zhàn)”，正日趨白熱化。

危險(xiǎn)逼近

從街頭巷尾刷臉支付的無人售貨機(jī)，到公共場(chǎng)所的安防監(jiān)控，甚至是影視制作、國(guó)防事業(yè)，人工智能正深刻地改變著人們的生產(chǎn)生活方式。但今年以來，利用人工智能技術(shù)造假的新聞屢見報(bào)端，也引發(fā)了越來越多的公眾關(guān)注。

“公眾對(duì)人工智能技術(shù)抱有希望和想象，相信它能為生活的方方面面帶來改變，但我們也應(yīng)當(dāng)正視，當(dāng)前人工智能技術(shù)還處在比較初步的發(fā)展階段，還面臨著一些挑戰(zhàn)。”清華大學(xué)教授、清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍坦言。

冰凍三尺非一日之寒，早在幾年前，學(xué)術(shù)界和產(chǎn)業(yè)界已經(jīng)感受到危機(jī)在悄悄逼近。

“這幾年在各種各樣的學(xué)術(shù)會(huì)議上，我們能聽到越來越多關(guān)切的聲音，有關(guān)人工智能安全的論文也是呈指數(shù)級(jí)增長(zhǎng)。”瑞萊智慧（RealAI）公司CEO田天說，該公司是清華大學(xué)人工智能研究院重點(diǎn)孵化的一家高新技術(shù)企業(yè)。

人工智能濫用也已引起國(guó)家有關(guān)部門高度關(guān)注。5月28日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《數(shù)據(jù)安全管理辦法（征求意見稿）》，其中明確表示，網(wǎng)絡(luò)運(yùn)營(yíng)者利用大數(shù)據(jù)、人工智能等技術(shù)自動(dòng)合成新聞、博文、帖子、評(píng)論等信息，應(yīng)以明顯方式標(biāo)明“合成”字樣；不得以謀取利益或損害他人利益為目的自動(dòng)合成信息。

除了技術(shù)的濫用，人工智能本身存在的算法漏洞也令人擔(dān)憂。幾個(gè)月前，比利時(shí)魯汶大學(xué)的研究人員發(fā)布了一則視頻，實(shí)驗(yàn)者通過在肚子上貼一張打印出來的圖片，就能夠逃脫智能監(jiān)控系統(tǒng)的識(shí)別，實(shí)現(xiàn)“隱身”；而想要把“隱身術(shù)”傳給同伴也很簡(jiǎn)單，只要把這張紙遞給他就好了。

“可以設(shè)想，如果這項(xiàng)技術(shù)被犯罪分子掌握，就能夠很容易躲避智能安防系統(tǒng)，給公共安全帶來極大威脅。”田天說。

“道”高一尺 必先“魔”高一丈

2018年6月，清華大學(xué)人工智能研究院揭牌成立，以“一個(gè)核心、兩個(gè)融合”作為發(fā)展戰(zhàn)略，即以人工智能基礎(chǔ)理論和基本方法研究為核心，積極推進(jìn)大跨度的學(xué)科交叉融合，積極推進(jìn)大范圍的技術(shù)與產(chǎn)業(yè)、學(xué)校與企業(yè)融合。

該研究院院長(zhǎng)、中國(guó)科學(xué)院院士張鈸認(rèn)為，作為研究性機(jī)構(gòu)，清華大學(xué)人工智能研究院的本分是要搞好學(xué)術(shù)研究，“但是人工智能又與應(yīng)用結(jié)合相當(dāng)緊密，因此研究院不僅僅是開開會(huì)，我們的研究一定要產(chǎn)生出算法，要孵化出新產(chǎn)業(yè)，甚至成為人工智能界的‘BAT’（百度、阿里巴巴、騰訊的合稱）。”

在這一思路的指引下，瑞萊智慧應(yīng)運(yùn)而生，其核心研發(fā)團(tuán)隊(duì)來自清華大學(xué)、北京大學(xué)、中科院等，致力于打造安全、可靠、可解釋的第三代人工智能，提供工業(yè)檢測(cè)、預(yù)測(cè)性維護(hù)、金融風(fēng)控、人工智能系統(tǒng)安全評(píng)測(cè)與防護(hù)等服務(wù)。

“在技術(shù)層面，人工智能安全會(huì)是一個(gè)持續(xù)攻防的過程。”田天說，“攻擊者會(huì)采用新的方法來進(jìn)行攻擊，而防御者也需要適應(yīng)動(dòng)態(tài)變化的攻擊場(chǎng)景。如果要占據(jù)主動(dòng)權(quán)，就要對(duì)未來可能潛在的攻防場(chǎng)景做預(yù)演，并為應(yīng)對(duì)潛在的風(fēng)險(xiǎn)提前設(shè)計(jì)可行方案。”

瑞萊智慧算法科學(xué)家蕭子豪介紹，他們很早就關(guān)注到網(wǎng)上假視頻、假圖片的問題，一直在想能否利用清華積累的技術(shù)優(yōu)勢(shì)，去防止人工智能技術(shù)的濫用。

但是，想練就一副“火眼金睛”，就得需要大量高質(zhì)量的數(shù)據(jù)去訓(xùn)練計(jì)算機(jī)。

近期，瑞萊智慧將工作的重點(diǎn)放在了換臉假視頻的檢測(cè)上，研發(fā)團(tuán)隊(duì)利用清華大學(xué)人工智能研究院在深度生成模型方面的積累，通過生成更加逼真的假視頻，訓(xùn)練出了一個(gè)更加可靠的模型來檢測(cè)假視頻。經(jīng)測(cè)試，這一模型的識(shí)別準(zhǔn)確率超過了99%，能夠覆蓋市面上絕大多數(shù)換臉技術(shù)生成的假視頻，達(dá)到了“真的不誤殺，假的不漏判”的目標(biāo)。

打開“黑盒”

張鈸在2016年中國(guó)計(jì)算機(jī)大會(huì)上提出了“后深度學(xué)習(xí)時(shí)代的人工智能”，此后又進(jìn)一步提出了“第三代人工智能”的概念，曾引起廣泛關(guān)注。

這是因?yàn)楫?dāng)前主流的基于深度學(xué)習(xí)的人工智能技術(shù)，也就是第二代人工智能，存在著一個(gè)難以逾越的“天花板”，業(yè)內(nèi)人士稱之為“黑盒”。

“當(dāng)前人工智能的算法越來越復(fù)雜，它告訴你明天要下雨，但是你完全不知道它是怎么做的決策，又談何信賴呢？”田天坦言，如果被人利用，“黑盒”將帶來嚴(yán)重的安全問題。

魯汶大學(xué)的“隱身術(shù)”原理其實(shí)就是針對(duì)這種算法漏洞，專門生成一些噪點(diǎn)，來誘導(dǎo)人工智能識(shí)別出錯(cuò)。

瑞萊智慧也做了類似的嘗試。技術(shù)人員研發(fā)了一種帶有噪點(diǎn)的“眼鏡”，只要戴上，就能通過商用智能手機(jī)的刷臉解鎖。

多年來，清華大學(xué)人工智能研究院一直在攻防技術(shù)上深耕，曾在谷歌公司組織的“對(duì)抗樣本攻防競(jìng)賽”上獲得了所有任務(wù)的冠軍。創(chuàng)辦瑞萊智慧后，研發(fā)團(tuán)隊(duì)利用新技術(shù)做了更精確的建模，更加深入地研究如何利用白盒的替代模型來攻擊黑盒的受害模型。通過發(fā)現(xiàn)真實(shí)存在的、危害更大的漏洞，團(tuán)隊(duì)進(jìn)一步有針對(duì)性地設(shè)計(jì)防御算法來提升整個(gè)人工智能系統(tǒng)的安全性。

今年5月，清華大學(xué)人工智能研究院與瑞萊智慧聯(lián)合發(fā)布了人工智能安全平臺(tái)——“RealSafe對(duì)抗攻防平臺(tái)”，它能夠提供多種攻擊與防御算法，開展全面、細(xì)致的攻擊防御算法的評(píng)測(cè)與比較。此外，通過該平臺(tái)，研究人員可以很容易地開展人工智能安全方面的學(xué)習(xí)和實(shí)訓(xùn)，幫助更多的人來關(guān)心和研究人工智能安全。

“隨著人工智能技術(shù)滲透到人們生活的各個(gè)方面，因技術(shù)濫用、算法漏洞等導(dǎo)致的安全問題也隨之而來。對(duì)此，公眾需要提高自我保護(hù)意識(shí)。”田天呼吁，“但人工智能總體來說是有利于社會(huì)發(fā)展、有利于提升人民生活水平的，隨著技術(shù)的不斷演進(jìn)，人工能智能會(huì)讓我們的生活變得更加便捷，更加美好。”

顯然，人工智能的“無間道”還將長(zhǎng)時(shí)間上演。但可以肯定的是，這條螺旋式上升的路，最終會(huì)將人類帶往一個(gè)充滿想象力的未來。