經(jīng)過(guò)一個(gè)周末的發(fā)酵，一夜爆紅的換臉APP“ZAO”已經(jīng)被推到了輿論的風(fēng)口浪尖，在娛樂(lè)的同時(shí)，涉及的技術(shù)問(wèn)題、隱私問(wèn)題、安全問(wèn)題備受關(guān)注。現(xiàn)在我們冷靜下來(lái)再審視這個(gè)ZAO。

周末你ZAO了嗎？

8月30日晚間，一個(gè)名為“ZAO”的APP一夜爆紅，有的人嘗鮮樂(lè)此不疲、有的人則對(duì)其中涉及到的隱私問(wèn)題憂心忡忡。到了第二天，這個(gè)APP已經(jīng)被推到了輿論的風(fēng)口浪尖。 目前，ZAO的微信分享鏈接顯示已停止訪問(wèn)，頁(yè)面顯示“網(wǎng)頁(yè)存在安全風(fēng)險(xiǎn)，被多人投訴，為維護(hù)綠色上網(wǎng)環(huán)境，已停止訪問(wèn)”。

經(jīng)過(guò)一個(gè)周末的發(fā)酵，我們現(xiàn)在冷靜下來(lái)再審視這個(gè)ZAO。

ZAO是做什么的？

“僅需一張照片，出演天下好戲”，正如這句廣告語(yǔ)，ZAO其實(shí)是一個(gè)換臉APP。用戶只需上傳一張面部照片，再選一個(gè)自己喜歡的影片片段和角色，就可以把這些角色的面孔換成自己的模樣，簡(jiǎn)直是不費(fèi)吹灰之力過(guò)了一把“明星”癮。

因此，ZAO瞬間走紅的原因不外乎兩個(gè)：第一，使用門檻低；第二，可以滿足大家的“明星夢(mèng)”。 從一夜爆紅到幾乎全民聲討，ZAO的用戶協(xié)議“細(xì)思極恐”

從一夜爆紅到幾乎全民聲討，ZAO到底做錯(cuò)了什么？其實(shí)，最主要的原因就是“隱私”二字。

知乎的一則相關(guān)提問(wèn)：“如何看待 AI 換臉軟件「ZAO」的爆火？”已經(jīng)被瀏覽了576萬(wàn)次，引發(fā)網(wǎng)友熱烈討論。

知乎網(wǎng)友“法山叔”看了ZAO的用戶協(xié)議后得出了兩個(gè)結(jié)論：

1、“ZAO”app涉嫌過(guò)度攫取用戶授權(quán)，讓你在無(wú)形中將自己的肖像權(quán)拱手讓人，以后你的臉將完全有可能被別人隨意使用，變換；

2、zao并未獲得換臉明星們的肖像權(quán)授權(quán)，你變臉涉嫌侵權(quán)，但當(dāng)明星認(rèn)為自己的權(quán)利受到侵害時(shí)，“ZAO”app將完全有可能將法律的鍋全部甩給你，讓你自己承擔(dān)侵權(quán)苦果。

“法山叔”為我們解讀了用戶協(xié)議中“細(xì)思極恐”的地方：

用戶協(xié)議第6條第1款規(guī)定：“在您上傳及/或發(fā)布用戶內(nèi)容以前，您同意或者確保實(shí)際權(quán)利人同意授予zao及其關(guān)聯(lián)公司以及zao用戶全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯...”以及對(duì)修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及著作權(quán)人享有的全部著作財(cái)產(chǎn)權(quán)利及鄰接權(quán)利。"

這是什么意思呢？你在正式使用該app以前，是要上傳自己肖像的，不僅靜態(tài)，還有動(dòng)態(tài)，而當(dāng)你選擇使用這個(gè)app以后，根據(jù)協(xié)議內(nèi)容，該app除了可免費(fèi)使用并修改你的肖像，還可以將它任意授權(quán)給自己想授權(quán)的第三方，當(dāng)做信息進(jìn)行販賣。所以當(dāng)有一天，你在zao或者其它關(guān)聯(lián)平臺(tái)上發(fā)現(xiàn)你的臉被隨意變換、不再屬于自己的時(shí)候，你想起訴zao，不好意思，它會(huì)拿出這個(gè)協(xié)議來(lái)堵你的嘴，告訴你你自己早已同意。

“法山叔”還為我們解讀了關(guān)于侵權(quán)的規(guī)定：

第6條第2款明確規(guī)定：“如果您把用戶內(nèi)容中的人臉換成您或其他人的臉，您同意或確保肖像權(quán)利人同意授予‘zao’及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利。”

這是什么意思呢，比如現(xiàn)在你將楊冪的臉換成自己的臉，你除了要保證自己永久、不可撤銷地把自己的肖像免費(fèi)給zao使用，還要保證楊冪同意zao及關(guān)聯(lián)公司使用她的肖像...但你又不是楊冪，你怎么能確保？這不搞笑嗎。而他這么做，說(shuō)白了，就是因?yàn)樽约簺]錢拿到明星們的授權(quán)，日后侵權(quán)，他們可以將鍋甩給你們。

而在此情形下，協(xié)議第七條第7款規(guī)定：若您侵害他人名譽(yù)權(quán)、肖像權(quán)、知識(shí)產(chǎn)權(quán)等合法權(quán)利的...zao可以訴諸行政執(zhí)法機(jī)構(gòu)或司法機(jī)關(guān)，追究相應(yīng)法律責(zé)任。若因您違反本協(xié)議或zao平臺(tái)的其他規(guī)則導(dǎo)致任何第三方損害的，您應(yīng)當(dāng)獨(dú)立承擔(dān)法律責(zé)任并承擔(dān)損害賠償責(zé)任；zao及其關(guān)聯(lián)公司遭受損失的，您也應(yīng)當(dāng)一并賠償。

意思即，如果楊冪狀告zao，主張自己的肖像權(quán)被zao平臺(tái)濫用，那zao完全可能說(shuō)這不怪我，技術(shù)無(wú)罪，要怪就怪這些換你臉的用戶，并且，即使zao承擔(dān)了平臺(tái)責(zé)任，其也完全可以起訴具體用戶進(jìn)行追償。總的來(lái)說(shuō)，他們把自己的屁股擦得非常干凈，將侵權(quán)的苦果全部甩給了用戶。

“法山叔”還提醒道：現(xiàn)在人臉支付，手機(jī)人臉解鎖正逐漸普及，如果它擁有你的動(dòng)態(tài)肖像權(quán)，那背后可能出現(xiàn)的問(wèn)題豈不是更令人不堪設(shè)想。

新智元經(jīng)授權(quán)引用“法山叔”的知乎回答，原回答鏈接：
鏈接：https://www.zhihu.com/question/343647357/answer/808994379
這又引發(fā)了一個(gè)新問(wèn)題，現(xiàn)在的人臉支付、手機(jī)人臉解鎖會(huì)因?yàn)閆AO的出現(xiàn)而有安全風(fēng)險(xiǎn)嗎？玩這個(gè)軟件會(huì)不會(huì)導(dǎo)致自己的支付寶刷臉被冒充？

根據(jù)“支付寶”的回應(yīng)：不會(huì)的。因?yàn)椤爸Ц秾殹杆⒛樦Ц丁共捎玫氖?D人臉識(shí)別技術(shù)：在進(jìn)行人臉識(shí)別前，會(huì)通過(guò)軟硬件結(jié)合的方式進(jìn)行檢測(cè)，來(lái)判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來(lái)的身份冒用情況。”而且，支付寶表示：即便出現(xiàn)賬戶被冒用的極小概率事件，資金損失也會(huì)通過(guò)保險(xiǎn)公司進(jìn)行全額賠付。

“換臉”不新鮮，Deepfakes技術(shù)詳解

雖然ZAO沒有公布使用的具體技術(shù)，但其實(shí)，AI換臉并不是非常新鮮的技術(shù)了。前一陣子便有朱茵變楊冪，海王變徐錦江的相關(guān)報(bào)道。

《射雕英雄傳》中，朱茵變楊冪

海王變徐錦江

這些技術(shù)的背后，是2017年年底的Deepfakes軟件帶來(lái)的結(jié)果。當(dāng)時(shí)Reddit用戶Deepfakes，將《神奇女俠》的女主角蓋爾·加朵、以及艾瑪沃森、斯嘉麗等眾多女明星的臉跟AV***進(jìn)行了交換，制作出足以以假亂真的愛情動(dòng)作片。

接下來(lái)我們來(lái)了解下Deepfakes的技術(shù)內(nèi)容：

Deepfakes 使用生成對(duì)抗網(wǎng)絡(luò)(GAN)，其中兩個(gè)機(jī)器學(xué)習(xí)模型進(jìn)行了較量。一個(gè)ML模型在數(shù)據(jù)集上進(jìn)行訓(xùn)練，然后創(chuàng)建偽造的視頻，而另一個(gè)模型嘗試檢測(cè)偽造。偽造者創(chuàng)建假視頻，直到另一個(gè)ML模型無(wú)法檢測(cè)到偽造。訓(xùn)練數(shù)據(jù)集越大，偽造者越容易創(chuàng)建可信的deepfake視頻。

上圖顯示了一個(gè)圖像(在本例中是一張臉)被輸入到編碼器(encoder)中。其結(jié)果是同一張臉的低維表示，有時(shí)被稱為latent face。根據(jù)網(wǎng)絡(luò)架構(gòu)的不同，latent face可能根本不像人臉。當(dāng)通過(guò)解碼器(decoder)時(shí)，latent face被重建。自動(dòng)編碼器是有損的，因此重建的臉不太可能有原來(lái)的細(xì)節(jié)水平。

程序員可以完全控制網(wǎng)絡(luò)的形狀：有多少層，每層有多少節(jié)點(diǎn)，以及它們?nèi)绾芜B接。網(wǎng)絡(luò)的真實(shí)知識(shí)存儲(chǔ)在連接節(jié)點(diǎn)的邊緣。每條邊都有一個(gè)權(quán)重，找到使自動(dòng)編碼器能夠像描述的那樣工作的正確權(quán)重集是一個(gè)耗時(shí)的過(guò)程。

訓(xùn)練神經(jīng)網(wǎng)絡(luò)意味著優(yōu)化其權(quán)重以達(dá)到特定的目標(biāo)。在傳統(tǒng)的自動(dòng)編碼器的情況下，網(wǎng)絡(luò)的性能取決于它如何根據(jù)其潛在空間的表示重建原始圖像。

訓(xùn)練Deepfakes

需要注意的是，如果我們單獨(dú)訓(xùn)練兩個(gè)自動(dòng)編碼器，它們將互不兼容。latent faces基于每個(gè)網(wǎng)絡(luò)在其訓(xùn)練過(guò)程中認(rèn)為有意義的特定特征。但是如果將兩個(gè)自動(dòng)編碼器分別在不同的人臉上訓(xùn)練，它們的潛在空間將代表不同的特征。

使人臉交換技術(shù)成為可能的是找到一種方法來(lái)強(qiáng)制將兩個(gè)潛在的人臉在相同的特征上編碼。Deepfakes通過(guò)讓兩個(gè)網(wǎng)絡(luò)共享相同的編碼器，然后使用兩個(gè)不同的解碼器來(lái)解決這個(gè)問(wèn)題。

在訓(xùn)練階段，這兩個(gè)網(wǎng)絡(luò)需要分開處理。解碼器A僅用A的人臉來(lái)訓(xùn)練；解碼器B只用B的人臉來(lái)訓(xùn)練，但是所有的latent face都是由同一個(gè)編碼器產(chǎn)生的。這意味著編碼器本身必須識(shí)別兩個(gè)人臉中的共同特征。因?yàn)樗械娜四樁季哂邢嗨频慕Y(jié)構(gòu)，所以編碼器學(xué)習(xí)“人臉”本身的概念是合理的。

生成Deepfakes

當(dāng)訓(xùn)練過(guò)程完成后，我們可以將A生成的一個(gè)latent face傳遞給解碼器B。如下圖所示，解碼器B將嘗試從與A相關(guān)的信息中重構(gòu)B。

如果網(wǎng)絡(luò)已經(jīng)很好地概括了人臉的構(gòu)成，那么潛在空間將表示面部表情和方向。這意味著可以為B生成與A的表情和方向相同的人臉。

請(qǐng)看下面的動(dòng)圖。左邊，UI藝術(shù)家Anisa Sanusi的臉被從一個(gè)視頻中提取并對(duì)齊。右邊，一個(gè)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)正在重建游戲設(shè)計(jì)師Henry Hoffman的臉，以匹配Anisa的表情。

顯然，Deepfakes背后的技術(shù)并不受人臉的限制。例如，它可以用來(lái)把蘋果變成獼猴桃。

重要的是，訓(xùn)練中使用的兩個(gè)主體要有盡可能多的相似之處。這是為了確保共享編碼器能夠泛化易于傳輸?shù)挠幸饬x的特性。雖然這項(xiàng)技術(shù)對(duì)人臉和水果都有效，但不太可能將人臉變成水果。

你還敢“ZAO”嗎？

ZAO不僅國(guó)內(nèi)火爆，國(guó)外用戶也紛紛被這一APP驚艷到了，不少人也分享出自己用ZAO做的“好萊塢大片”。

比如這個(gè)在Twitter上已經(jīng)播放了50多萬(wàn)次的視頻，就是一位印度游戲開發(fā)工程師用ZAO做出的《泰坦尼克號(hào)》，視頻中，他化身Jack，融入到一幕幕經(jīng)典場(chǎng)景中。

在評(píng)論中，外國(guó)網(wǎng)友也熱議這個(gè)APP。

“太瘋狂了...從現(xiàn)在開始，這個(gè)世界再也不知道什么是真的了”

“嘿伙計(jì)們，來(lái)玩有趣的新AI學(xué)習(xí)算法，絕對(duì)不會(huì)用來(lái)訓(xùn)練面部識(shí)別軟件帶來(lái)可怕的安全問(wèn)題并奴役我們所有人！”

“說(shuō)實(shí)話，每個(gè)允許用戶發(fā)布自拍的平臺(tái)都可以做到。問(wèn)題是人們永遠(yuǎn)不會(huì)停止發(fā)布自拍。”

“deepfake的演變是不可思議的。該技術(shù)僅用了3年時(shí)間，現(xiàn)在它已經(jīng)用于公共應(yīng)用程序中。” 對(duì)于ZAO，你怎么看？