人工智能的發展應用如火如荼，但其誤用、錯用、濫用甚至惡意使用所帶來的安全問題不可小視！

近期，美歐多國開發出多種基于人工智能的新興偽造技術。該技術偽裝性強、欺騙性高、難以監管且相關成果正在不斷涌現，可用于社會生產生活及國家治理等各個方面，或對我國家安全構成嚴峻威脅。

“人工智能偽造技術”以假亂真

人工智能偽造技術是指利用人工智能在深度學習、大數據處理語言識別、圖像識別、自然語言處理等方面的強大功能，偽造社會生活中人體指紋、語音等生理特征及合成虛假音頻、視頻等媒體文件的技術。現階段的人工智能已經可以偽造個人筆跡、聲音、動畫以及視頻等，且仿真度極高。

偽造筆跡方面，英國UCL大學研究人員開發出“My text in your hand writing”人工智能算法，能夠分析一個人的字形及其特殊的書寫方式，生成字形、字號、顏色、筆線紋理、垂直及水平間距等完全相同的筆跡，達到完美偽造。

偽造語音方面，谷歌Deepmind公司開發出 “WaveNet”軟件，可利用其神經網絡系統對原始音頻波形進行建模，生成帶有強調性音節、抑揚頓挫和體現情緒的目前世界上最接近人類自然語言的音頻。加拿大Lyrebird公司正在開發一種深度學習算法，使任何人都可以使用任何其他人的聲音偽造出令人驚訝的逼真演講。目前該公司已利用該技術仿造出特朗普、奧巴馬及克林頓等人的聲音進行演講。此外，Adobe公司的 Project VoCo軟件可以識別出一段語音中的文字，之后針對語音中的文字進行編輯和修改，生成音色和音調與本人完全一樣的語音。

偽造視頻方面，美國華盛頓大學研究人員開發出“可偽造真人視頻”的人工智能技術，成功將聲音片段合成轉化為對應的口型，并將該口型嫁接到視頻中的人臉上，成功偽造出口型一致的虛假視頻。研究人員演示了美國前總統奧巴馬在多個場景下談論***的視頻，其口型完全一致，難辨真假。此外，該技術還可以實現小幅時移，使神經網絡預測說話者接下來所要表達的內容。

引發嚴重的國家安全和社會穩定問題

“人工智能偽造技術”或擾亂正常的社會生活和管理秩序，引發嚴重的社會安全問題

“人工智能偽造技術”對社會秩序的各個層面構成了嚴重威脅。在社會生活層面，“人工智能偽造技術”使日常生活所用的合同、契約、證書及相關法律文本的防偽鑒定面臨新的困難。在涉及公民、法人和組織切身利益和財產安全的重要問題上，該技術帶來了諸多不確定性的挑戰。在司法層面，“人工智能偽造技術”將可用于偽造證人證言、視聽資料、電子數據及鑒定意見等虛假證據，為司法證據的鑒定采用和非法證據排除帶來了新的困難，對社會公正和社會穩定帶來極大的挑戰。在公共安全層面，“人工智能偽造技術”為不法分子從事違法犯罪活動提供了便利條件。例如，不法分子出于擾亂社會治安或敲詐勒索等目的，可利用該技術制作高逼真度的殺人、綁架、爆炸等嚴重暴力犯罪的音頻視頻，將對社會穩定構成嚴重威脅。

“人工智能偽造技術”用于社交媒體或為國內外分裂、恐怖勢力提供新的工具

社交媒體上的資訊傳播速度快、范圍廣、成本風險低、易于聚攏共識等特點，其社會動員能力強大，已成為分裂、恐怖勢力傳播極端思想、煽動不安情緒甚至制造分裂、***的重要媒介。***“***”事件中，“學運”分子在社交媒體上被塑造成“意識形態先遣隊”和“覺醒的政治力量”，加劇了***青少年的分裂思潮。Facebook中充滿了“警察***、***”等片面的消息以及很多血腥暴力的虛假圖片，激發了觀者的負面情緒，加劇了“***”事件的擴大升級。與此同時，近年來“***”組織嫻熟地利用社交媒體宣傳“***”思想，招募我國***地區的“***”活動分子，使其自發前往土耳其、敘利亞伊拉克等地參加***培訓，并企圖回國開展***活動。此外，卡塔爾近期的“外交危機”也是由社交媒體引起，黑客組織通過入侵卡塔爾通訊社網站并偽造國家元首埃米爾?塔米姆的講話，聲稱支持伊朗和巴勒斯坦******哈馬斯，批評美國和沙特阿拉伯，并譴責對卡塔爾支持***的有關指控，導致嚴重的外交危機。

對我啟示

“人工智能偽造技術”的出現，尤其是對筆跡、音頻、視頻的高逼真度偽造，為分裂、恐怖勢力偽造領導人發布虛假聲明、簽署虛假命令、遭遇不測等虛假視頻提供了便利條件。這些虛假視頻一旦流入社交媒體，將在短時間內迅速擴散，煽動強烈的社會不安情緒。

“人工智能偽造技術”已引起美國的關注。新美國安全中心發布的《人工智能與國家安全》報告中，明確將人工智能偽造技術列為威脅國家安全的重點技術，建議美國防部和情報部門成立專門的人工智能安全組織，并由國家安全局牽頭開發針對該技術的應對方法。我國同樣面臨人工智能偽造技術帶來的現實威脅，應趁該威脅尚處萌芽階段及早布局，通過政策管理和技術限制等途徑積極應對其潛在風險。