電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）近段時間，網(wǎng)絡(luò)上流傳不少中國明星飆英語的視頻，比如趙本山用英文演小品，郭德綱用英文說相聲，范明用英文演戲等。除此之外，網(wǎng)絡(luò)上也有不少國外明星說著流利中文的視頻，如泰勒·斯威夫特、安妮·海瑟薇等。

這些視頻都是由AI生成的。近年來，AI技術(shù)的發(fā)展愈發(fā)迅速，利用AI技術(shù)生成的虛擬人也越發(fā)逼真，模仿真人的時候，無論是相貌還是聲音都幾乎一樣，而且嘴型、手勢，身體動作、語速各個方面都能做到非常自然，以至于AI生成的虛擬人與真人幾乎可以做到真假難辨。

可怕的AI換臉和換聲

上述利用AI技術(shù)實(shí)現(xiàn)多種語言翻譯的能力，確實(shí)能夠在一些場合實(shí)現(xiàn)有價值的應(yīng)用。然而，它也會帶來侵權(quán)、詐騙等問題。某律師事務(wù)所高級合伙人表示，利用AI技術(shù)將相聲、小品等翻譯成其他語言，如果沒有經(jīng)過著作權(quán)人授權(quán)，就存在侵權(quán)問題；此外，網(wǎng)友用他人形象和聲音制作視頻，并在網(wǎng)絡(luò)上發(fā)布，如果沒有獲得授權(quán)，則涉嫌侵犯他人肖像權(quán)和聲音權(quán)。

AI換臉、換聲的不當(dāng)應(yīng)用，除了帶來侵權(quán)的問題之外，還有不少詐騙分子正在使用該技術(shù)進(jìn)行詐騙行為。此前就有多起AI詐騙事件被公布。中央廣播電視總臺中國之聲《新聞縱橫》此前也報(bào)道過，隨著人臉識別技術(shù)的廣泛應(yīng)用和人工智能技術(shù)的進(jìn)步，一些不法分子開始利用AI技術(shù)融合他人面孔和聲音制造逼真的合成圖像來實(shí)施新型網(wǎng)絡(luò)詐騙，類似騙局具有手段多樣、門檻低、辨別難度大等特點(diǎn)，經(jīng)常會防不勝防，短時間內(nèi)造成較大損失。

AI換臉換聲的基本邏輯是通過深度學(xué)習(xí)特定算法，將目標(biāo)人物的人臉、表情、聲音等嫁接到模仿的視頻中，最終實(shí)現(xiàn)視聽合成的高仿真性，且軟件成本低，合成速率高，檢測鑒別難度大，一般人難以發(fā)現(xiàn)偽裝痕跡。不法分子主要以冒充被害人的親戚朋友、領(lǐng)導(dǎo)同事等身份，騙取被害人的信任，從而獲得錢財(cái)。

電子發(fā)燒友此前在某生物特征識別論壇上，聽一位專注于深度偽造技術(shù)檢測的專家談到：“我們很多人會經(jīng)常接到一些廣告推銷的電話，這些打廣告推銷電話的人中，有些就是不法分子偽裝的。它通過這種通話的方式，可以獲得我們的聲紋，同時又能夠在交談中，獲得我們的各種信息。而且時候，他們團(tuán)隊(duì)會有很多個人來給你打電話，以獲取足夠多信息。”

AI詐騙主要有兩種方式，第一種是通過技術(shù)手段直接合成換臉、擬聲后的短視頻或語音，在視頻聊天、普通電話中直接播放，這類視頻主要用于表達(dá)比較緊急的情況，比如遭遇事故求助等等，播放結(jié)束后就會掐斷連接，無法與被害人形成回合性的對話。另一種是在視頻通話中直接換臉并替換聲音，直接用擬聲撥打電話，第二種難度更高，他需要更長時間的互動，被騙則可以在互動的過程中，去尋找破綻。

上述專家介紹到：“這也是為什么，不法分子很多時候會通過了解我們的作息，選擇我們狀態(tài)不好的時候通話，比如你平時習(xí)慣熬夜，早上睡到十一二點(diǎn)才能清醒，他們就選擇在早上六七點(diǎn)，你睡得很迷糊的時候打電話進(jìn)行詐騙。這個時候我們就很難去發(fā)現(xiàn)其臉部表情、聲音，和交互過程中出現(xiàn)的一些缺陷或者披紕漏。”

AI換臉詐騙并不是無懈可擊

目前AI換臉換聲確實(shí)已經(jīng)很逼真，但是仔細(xì)辨別還是可以看出真假。近日浙江衛(wèi)視《王牌對王牌》節(jié)目中策劃了反詐知識傳播的部分，其中全員演示了AI換臉換聲。比如閆妮偽裝成唐嫣，竟然成功騙過張新成。可以看到，除了妝造不同，臉部和聲音確實(shí)非常像。

可是如果偽裝人大幅變動位置，或者站得更遠(yuǎn)或更近，兩部特征就會變形，甚至是變回偽裝人原本的樣貌。也就是說，如果我們接到親人朋友的視頻電話，為了辨認(rèn)真假，我們可以讓對方多變動一下位置，是有可能識別真假的。

之前也有行業(yè)人士談到過：“如果對方AI換臉，在溝通中一些動作可以讓我們發(fā)現(xiàn)破綻，比如說，讓對方用手捂臉、動一動，就會干擾到圖像合成。”通過他的演示可以看到，用手捂臉，可以看到AI換臉之人的眼睛、鼻子會抖動，手拿開的同時，嘴巴也消失了。

除此之外，大家還是需要從源頭上預(yù)防AI換臉詐騙。比如，陌生電話、一些廣告推銷電話謹(jǐn)慎接聽，防止對方采集我們的聲音和信息；在網(wǎng)絡(luò)上，避免過多發(fā)布個人照片、聲音和視頻；對于外界采集我們?nèi)四槨⒙暭y、指紋等生物特征數(shù)據(jù)要足夠謹(jǐn)慎等。

小結(jié)

當(dāng)前，AI技術(shù)的快速發(fā)展，正在促進(jìn)各行各業(yè)技術(shù)應(yīng)用創(chuàng)新。同時，也有一些不法分子濫用AI技術(shù)進(jìn)行詐騙。當(dāng)前不少AI換臉雖然看上去逼真，不過謹(jǐn)慎的話還是可以被識別。未來，隨著AI技術(shù)更加成熟，被用于詐騙的話可能就很難憑借肉眼去識別了。因此，在深度偽造檢測方面，以及法律法規(guī)對AI換臉、換聲等技術(shù)的不當(dāng)應(yīng)用都需要持續(xù)加強(qiáng)。