深度偽造（Deepfake）是一種合成媒體形式，它使用人工智能來(lái)創(chuàng)建看似真實(shí)的視頻或圖像。目前，深度偽造技術(shù)已被用于影視制作等各種場(chǎng)景，但同時(shí)引發(fā)了人們對(duì)其可能被濫用于惡意目的的擔(dān)憂，如傳播錯(cuò)誤信息和操縱輿論。2022年以來(lái)，隨著ChatGPT、文心一言等生成式人工智能模型的不斷進(jìn)步和趨于成熟，人工智能技術(shù)引發(fā)強(qiáng)烈關(guān)注。目前，人工智能生成的虛假音視頻已經(jīng)能夠達(dá)到以假亂真的地步，成功實(shí)施的欺騙案例日漸增多。面對(duì)這一情形，各國(guó)已從立法、技術(shù)手段加以應(yīng)對(duì)。但是，深度偽造與反深度偽造仍將是“貓追老鼠”的長(zhǎng)期博弈，人工智能技術(shù)持續(xù)進(jìn)步產(chǎn)生的深度偽造風(fēng)險(xiǎn)將與日俱增，需要持續(xù)關(guān)注與應(yīng)對(duì)。

一、生成式人工智能模型展現(xiàn)出驚人能力，或擴(kuò)大深度偽造的風(fēng)險(xiǎn)

深度偽造這一概念最早出現(xiàn)在2016年，一開始專指基于深度學(xué)習(xí)的人像合成技術(shù)，現(xiàn)在這一概念已經(jīng)擴(kuò)展到視頻偽造、聲音偽造、文本偽造和微表情合成等多模態(tài)合成技術(shù)。

當(dāng)下，以Midjourney、DALL-E、Stable Diffusion等為代表的專業(yè)生成式人工智能模型，能夠通過(guò)用戶輸入的圖像和文字生成以假亂真的圖像。生成式人工智能的進(jìn)步對(duì)深度偽造技術(shù)領(lǐng)域具有重大影響，因?yàn)樗赡苡心芰ι膳c現(xiàn)實(shí)難以區(qū)分的高度可信的假視頻、圖像和音頻。這可能會(huì)使識(shí)別和防止深度偽造內(nèi)容傳播變得更加困難。

隨著人工智能模型創(chuàng)作虛假視頻的逼真程度不斷提高，深度偽造技術(shù)日益被視為“巨大的社會(huì)威脅”。例如，一個(gè)名為ModelScope的新型創(chuàng)意人工智能系統(tǒng)現(xiàn)在已經(jīng)可以根據(jù)文本提示制作短視頻。有網(wǎng)絡(luò)用戶使用ModelScope創(chuàng)作了馬克龍?jiān)诎屠杞诸^拾荒的虛假視頻片段。2023年4月，在拜登宣布有意再次競(jìng)選美國(guó)總統(tǒng)后，共和黨全國(guó)委員會(huì)用基于人工智能生成的廣告對(duì)拜登進(jìn)行了攻擊，使用人工智能生成了一系列虛假圖像，虛構(gòu)了拜登連任后美國(guó)經(jīng)濟(jì)崩潰、非法移民猖獗和犯罪浪潮迭起等情形。5月，一張五角大樓爆炸的人工智能偽造圖片在網(wǎng)絡(luò)上廣泛傳播。可見，政治相關(guān)的偽造圖片容易產(chǎn)生較高的熱度，未來(lái)可能進(jìn)一步成為人工智能造假的“重災(zāi)區(qū)”。

二、日益嚴(yán)重的深度偽造安全問(wèn)題引發(fā)廣泛重視

（一）深度偽造安全問(wèn)題引發(fā)重視，政策先行

深度偽造可能被用制作虛假信息，對(duì)社會(huì)安全構(gòu)成了多方面的威脅，因此引發(fā)了各經(jīng)濟(jì)體重視。中國(guó)、美國(guó)和歐盟等經(jīng)濟(jì)體已推出相關(guān)政策措施來(lái)應(yīng)對(duì)深度偽造風(fēng)險(xiǎn)。

中國(guó)方面，2021年起，國(guó)家網(wǎng)信辦、國(guó)家發(fā)改委、教育部、科技部、工信部、公安部、市場(chǎng)監(jiān)管總局、廣電總局等有關(guān)主管部門已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，對(duì)計(jì)算機(jī)合成內(nèi)容進(jìn)行管控。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》要求對(duì)算法生成合成的信息做顯著標(biāo)識(shí)，并要求提供互聯(lián)網(wǎng)新聞信息服務(wù)的算法推薦服務(wù)提供者和使用者，不得生成合成虛假新聞信息。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》則更加細(xì)致地規(guī)定了包括智能對(duì)話、智能寫作、人臉生成、人臉操控、姿態(tài)操控等具有生成或顯著改變信息內(nèi)容功能的深度合成服務(wù)應(yīng)當(dāng)遵守的要求，包括以顯著標(biāo)識(shí)的形式向公眾提示。7月最新發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》進(jìn)一步對(duì)生成式人工智能的開發(fā)與使用等進(jìn)行規(guī)范，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。

美國(guó)方面，美國(guó)眾議員亞當(dāng)·希夫（Adam Schiff）等人在2018年致時(shí)任國(guó)家情報(bào)總監(jiān)丹·科茨（Dan Coats）的信中，首次對(duì)深度偽造技術(shù)于美國(guó)公共輿論和國(guó)家安全造成的威脅提出警告。據(jù)央視報(bào)道，僅在2022年，美國(guó)就發(fā)生了240萬(wàn)起人工智能相關(guān)詐騙案。近年來(lái)，隨著人工智能生成虛假信息的進(jìn)一步蔓延傳播并廣泛用于實(shí)施欺騙行為，美國(guó)加強(qiáng)立法監(jiān)管。2023年5月，在共和黨全國(guó)委員會(huì)發(fā)布了生成式人工智能制作的政治廣告后，美國(guó)眾議員伊維特·克拉克（Yvette Clarke）提出了《真實(shí)的政治廣告法案》（The REAL Political Ads Act），對(duì)競(jìng)選廣告提出人工智能生成內(nèi)容披露要求。6月，美國(guó)眾議員里奇·托雷斯(Ritchie Torres)提出《人工智能披露法案》（The AI Disclosure Act），提議在任何人工智能生成的內(nèi)容中添加披露聲明。

歐盟方面，歐盟于2022年6月更新《反虛假信息行為準(zhǔn)則》（Code of Practice on Disinformation），要求社交媒體公司從其平臺(tái)上刪除深度偽造和其他虛假信息，否則將處以高達(dá)公司全球營(yíng)收6%的罰款。歐盟《數(shù)字服務(wù)法》(The Digital Services Act，DSA)也要求平臺(tái)展示舉報(bào)和刪除非法內(nèi)容的機(jī)制。

（二）識(shí)別深度偽造的技術(shù)手段正不斷進(jìn)步

隨著深度偽造內(nèi)容變得越來(lái)越復(fù)雜，研究人員正開發(fā)更好的方法，以便準(zhǔn)確發(fā)現(xiàn)它們。例如，利用棋盤偽影、共現(xiàn)矩陣等方法，可檢測(cè)生成對(duì)抗網(wǎng)絡(luò)（GAN）生成的虛假視頻；利用面部特征檢測(cè)等方法，可檢測(cè)以換臉方式偽造的視頻；利用信息的多模態(tài)特征，可檢測(cè)由多種信息組合而成的假新聞等。美國(guó)國(guó)防部資助了大量檢測(cè)虛假信息的研究。例如，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）于2020年7月發(fā)起“對(duì)欺騙的逆向工程”（Reverse Engineering of Deceptions，RED）項(xiàng)目，旨在運(yùn)用人工智能技術(shù)，對(duì)深度偽造視頻、照片、音頻、文字及其制造這些內(nèi)容的工具鏈進(jìn)行逆向工程分析。在檢測(cè)包含人物的深度偽造畫面方面，研究機(jī)構(gòu)主要通過(guò)面部特征來(lái)識(shí)別深度偽造。美國(guó)紐約州立大學(xué)奧爾巴尼和布法羅分校聯(lián)合研究團(tuán)隊(duì)通過(guò)瞳孔形狀識(shí)別深度偽造；美國(guó)紐約州立大學(xué)布法羅分校通過(guò)眼球反射的光線識(shí)別深度偽造；美國(guó)紐約州立大學(xué)賓漢頓分校和英特爾公司提出使用血氧儀原理識(shí)別深度偽造。對(duì)于人工智能生成的文字，美國(guó)堪薩斯大學(xué)研究人員介紹了一種算法，識(shí)別人工智能生成段落的準(zhǔn)確率達(dá)到92%以上。此外，微軟公司希望在畫面生成時(shí)即進(jìn)行注明，將通過(guò)標(biāo)記元數(shù)據(jù)的方式幫助用戶識(shí)別人工智能生成的圖像與視頻。

（三）深度偽造或成為一種潛在的國(guó)際沖突對(duì)抗手段

在意識(shí)到深度偽造技術(shù)的強(qiáng)大破壞力后，某些國(guó)家或正在考慮將深度偽造技術(shù)作為沖突中的對(duì)抗手段，從而維護(hù)自身的政治外交利益。2023年1月，美國(guó)智庫(kù)布魯金斯學(xué)會(huì)發(fā)布《深度偽造與國(guó)際沖突》（Deepfakes and International Conflict）報(bào)告。該報(bào)告指出，隨著人工智能技術(shù)進(jìn)步、計(jì)算成本不斷下降，深度造假技術(shù)在武裝沖突期間對(duì)在線信息環(huán)境構(gòu)成越來(lái)越大的挑戰(zhàn)。一國(guó)可以偽造沖突方軍事領(lǐng)導(dǎo)人的音視頻指令，在公眾和武裝部隊(duì)中制造混亂。例如，俄烏沖突初期，一條關(guān)于烏克蘭總統(tǒng)澤連斯基的深度偽造視頻在社交平臺(tái)廣為流傳。為此，布魯金斯學(xué)會(huì)建議：美國(guó)及其盟友的安全官員和政策制定者更深入地了解該技術(shù)的工作原理，以及它在國(guó)際武裝沖突中的多種使用方式；在部署深度偽造技術(shù)前需充分評(píng)估收益和風(fēng)險(xiǎn)，并借鑒現(xiàn)有的國(guó)際規(guī)范和先例，為政府使用深度偽造技術(shù)制定行為準(zhǔn)則。

布魯金斯學(xué)會(huì)的報(bào)告表明，某些國(guó)家內(nèi)部可能存在一種聲音，支持使用深度偽造技術(shù)來(lái)進(jìn)行域外的信息干擾、虛假信息傳播等行動(dòng)，強(qiáng)化其信息優(yōu)勢(shì)，從而更好地實(shí)現(xiàn)其外交目標(biāo)。若未來(lái)這一想法得到貫徹和推廣，將對(duì)全球政治安全和穩(wěn)定產(chǎn)生嚴(yán)重沖擊。

三、深度偽造治理面臨的挑戰(zhàn)

深度偽造技術(shù)的發(fā)展引發(fā)了長(zhǎng)期的動(dòng)態(tài)博弈，這使得識(shí)別真實(shí)和虛假內(nèi)容變得愈發(fā)困難。需要進(jìn)行長(zhǎng)期思考和探索如何防止這種技術(shù)的濫用。

（一）監(jiān)管和立法有待進(jìn)一步加強(qiáng)

治理深度偽造技術(shù)的前提是對(duì)人工智能技術(shù)進(jìn)行合理、有效的監(jiān)管。當(dāng)前，全球主要經(jīng)濟(jì)體和聯(lián)合國(guó)已充分認(rèn)識(shí)到監(jiān)管人工智能的重要性。我國(guó)已前瞻性出臺(tái)相關(guān)法律法規(guī)；美國(guó)政府正聽取多方意見，醞釀人工智能監(jiān)管立法，并同意應(yīng)建立人工智能監(jiān)管機(jī)構(gòu)；歐盟出臺(tái)人工智能監(jiān)管臨時(shí)政治協(xié)議，并正在就《人工智能法案》（The AI Act）進(jìn)行最終談判；聯(lián)合國(guó)表態(tài)支持建立一個(gè)類似于國(guó)際原子能機(jī)構(gòu)的國(guó)際人工智能監(jiān)管機(jī)構(gòu)。面向未來(lái)風(fēng)險(xiǎn)的治理，需要長(zhǎng)遠(yuǎn)考量如何監(jiān)管和解決與人工智能技術(shù)相關(guān)的潛在風(fēng)險(xiǎn)，讓技術(shù)更好地為創(chuàng)新和生產(chǎn)力提升所用，需要通過(guò)法律法規(guī)來(lái)為人工智能的發(fā)展和應(yīng)用設(shè)置安全底線。

（二）監(jiān)管科技亟待進(jìn)步

在完善監(jiān)管政策的同時(shí)，監(jiān)管者也需要利用更好的工具來(lái)檢測(cè)和防止深度偽造。人工智能工具不斷增強(qiáng)的模態(tài)識(shí)別能力有望為監(jiān)管打造強(qiáng)有力的技術(shù)工具。例如，運(yùn)用圖像處理技術(shù)、多模態(tài)分析技術(shù)、建立深度偽造數(shù)據(jù)集、使用防偽技術(shù)，都能在一定程度上有效地檢測(cè)深度偽造。當(dāng)前，換臉視頻、機(jī)器寫作等大多數(shù)的深度偽造內(nèi)容都是較為粗糙、容易被檢測(cè)出的，但深度偽造技術(shù)也在不斷發(fā)展，未來(lái)將更加難以識(shí)別。因此，對(duì)抗深度偽造需要持續(xù)的研究和技術(shù)創(chuàng)新。

（三）深度偽造與識(shí)別將是長(zhǎng)期動(dòng)態(tài)博弈

深度偽造的傳播和識(shí)別，將始終像“貓追老鼠”一樣，是一個(gè)不斷發(fā)展、制衡的過(guò)程。不能“一刀切”式地禁用深度偽造技術(shù)，否則將極大影響技術(shù)創(chuàng)新和應(yīng)用拓展。一方面，深度偽造技術(shù)的提供者和使用者應(yīng)樹立責(zé)任意識(shí)。2023年5月，美國(guó)OpenAI公司首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）出席美國(guó)國(guó)會(huì)聽證會(huì)時(shí)表示，同意對(duì)人工智能進(jìn)行基于風(fēng)險(xiǎn)的監(jiān)管。同月，抖音集團(tuán)發(fā)布關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)協(xié)議，其中提到用戶在抖音平臺(tái)發(fā)布信息時(shí)，需要對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，以及對(duì)生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)。另一方面，還需要培養(yǎng)公眾的數(shù)字素養(yǎng)，提高公眾對(duì)深度偽造的認(rèn)識(shí)和辨別能力。通過(guò)社會(huì)各界的努力，來(lái)共同控制深度偽造的風(fēng)險(xiǎn)，讓技術(shù)服務(wù)于創(chuàng)新與生產(chǎn)力進(jìn)步。

編輯：黃飛

?