經(jīng)過一個周末的發(fā)酵，一夜爆紅的換臉APP“ZAO”已經(jīng)被推到了輿論的風口浪尖，在娛樂的同時，涉及的技術(shù)問題、隱私問題、安全問題備受關(guān)注。現(xiàn)在我們冷靜下來再審視這個ZAO。

周末你ZAO了嗎？

8月30日晚間，一個名為“ZAO”的APP一夜爆紅，有的人嘗鮮樂此不疲、有的人則對其中涉及到的隱私問題憂心忡忡。到了第二天，這個APP已經(jīng)被推到了輿論的風口浪尖。 目前，ZAO的微信分享鏈接顯示已停止訪問，頁面顯示“網(wǎng)頁存在安全風險，被多人投訴，為維護綠色上網(wǎng)環(huán)境，已停止訪問”。

經(jīng)過一個周末的發(fā)酵，我們現(xiàn)在冷靜下來再審視這個ZAO。

ZAO是做什么的？

“僅需一張照片，出演天下好戲”，正如這句廣告語，ZAO其實是一個換臉APP。用戶只需上傳一張面部照片，再選一個自己喜歡的影片片段和角色，就可以把這些角色的面孔換成自己的模樣，簡直是不費吹灰之力過了一把“明星”癮。

因此，ZAO瞬間走紅的原因不外乎兩個：第一，使用門檻低；第二，可以滿足大家的“明星夢”。 從一夜爆紅到幾乎全民聲討，ZAO的用戶協(xié)議“細思極恐”

從一夜爆紅到幾乎全民聲討，ZAO到底做錯了什么？其實，最主要的原因就是“隱私”二字。

知乎的一則相關(guān)提問：“如何看待 AI 換臉軟件「ZAO」的爆火？”已經(jīng)被瀏覽了576萬次，引發(fā)網(wǎng)友熱烈討論。

知乎網(wǎng)友“法山叔”看了ZAO的用戶協(xié)議后得出了兩個結(jié)論：

1、“ZAO”app涉嫌過度攫取用戶授權(quán)，讓你在無形中將自己的肖像權(quán)拱手讓人，以后你的臉將完全有可能被別人隨意使用，變換；

2、zao并未獲得換臉明星們的肖像權(quán)授權(quán)，你變臉涉嫌侵權(quán)，但當明星認為自己的權(quán)利受到侵害時，“ZAO”app將完全有可能將法律的鍋全部甩給你，讓你自己承擔侵權(quán)苦果。

“法山叔”為我們解讀了用戶協(xié)議中“細思極恐”的地方：

用戶協(xié)議第6條第1款規(guī)定：“在您上傳及/或發(fā)布用戶內(nèi)容以前，您同意或者確保實際權(quán)利人同意授予zao及其關(guān)聯(lián)公司以及zao用戶全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對用戶內(nèi)容進行全部或部分的修改與編輯...”以及對修改前后的用戶內(nèi)容進行信息網(wǎng)絡(luò)傳播以及著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利。"

這是什么意思呢？你在正式使用該app以前，是要上傳自己肖像的，不僅靜態(tài)，還有動態(tài)，而當你選擇使用這個app以后，根據(jù)協(xié)議內(nèi)容，該app除了可免費使用并修改你的肖像，還可以將它任意授權(quán)給自己想授權(quán)的第三方，當做信息進行販賣。所以當有一天，你在zao或者其它關(guān)聯(lián)平臺上發(fā)現(xiàn)你的臉被隨意變換、不再屬于自己的時候，你想起訴zao，不好意思，它會拿出這個協(xié)議來堵你的嘴，告訴你你自己早已同意。

“法山叔”還為我們解讀了關(guān)于侵權(quán)的規(guī)定：

第6條第2款明確規(guī)定：“如果您把用戶內(nèi)容中的人臉換成您或其他人的臉，您同意或確保肖像權(quán)利人同意授予‘zao’及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利。”

這是什么意思呢，比如現(xiàn)在你將楊冪的臉換成自己的臉，你除了要保證自己永久、不可撤銷地把自己的肖像免費給zao使用，還要保證楊冪同意zao及關(guān)聯(lián)公司使用她的肖像...但你又不是楊冪，你怎么能確保？這不搞笑嗎。而他這么做，說白了，就是因為自己沒錢拿到明星們的授權(quán)，日后侵權(quán)，他們可以將鍋甩給你們。

而在此情形下，協(xié)議第七條第7款規(guī)定：若您侵害他人名譽權(quán)、肖像權(quán)、知識產(chǎn)權(quán)等合法權(quán)利的...zao可以訴諸行政執(zhí)法機構(gòu)或司法機關(guān)，追究相應(yīng)法律責任。若因您違反本協(xié)議或zao平臺的其他規(guī)則導致任何第三方損害的，您應(yīng)當獨立承擔法律責任并承擔損害賠償責任；zao及其關(guān)聯(lián)公司遭受損失的，您也應(yīng)當一并賠償。

意思即，如果楊冪狀告zao，主張自己的肖像權(quán)被zao平臺濫用，那zao完全可能說這不怪我，技術(shù)無罪，要怪就怪這些換你臉的用戶，并且，即使zao承擔了平臺責任，其也完全可以起訴具體用戶進行追償。總的來說，他們把自己的屁股擦得非常干凈，將侵權(quán)的苦果全部甩給了用戶。

“法山叔”還提醒道：現(xiàn)在人臉支付，手機人臉解鎖正逐漸普及，如果它擁有你的動態(tài)肖像權(quán)，那背后可能出現(xiàn)的問題豈不是更令人不堪設(shè)想。

新智元經(jīng)授權(quán)引用“法山叔”的知乎回答，原回答鏈接：
鏈接：https://www.zhihu.com/question/343647357/answer/808994379
這又引發(fā)了一個新問題，現(xiàn)在的人臉支付、手機人臉解鎖會因為ZAO的出現(xiàn)而有安全風險嗎？玩這個軟件會不會導致自己的支付寶刷臉被冒充？

根據(jù)“支付寶”的回應(yīng)：不會的。因為“支付寶「刷臉支付」采用的是3D人臉識別技術(shù)：在進行人臉識別前，會通過軟硬件結(jié)合的方式進行檢測，來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。”而且，支付寶表示：即便出現(xiàn)賬戶被冒用的極小概率事件，資金損失也會通過保險公司進行全額賠付。

“換臉”不新鮮，Deepfakes技術(shù)詳解

雖然ZAO沒有公布使用的具體技術(shù)，但其實，AI換臉并不是非常新鮮的技術(shù)了。前一陣子便有朱茵變楊冪，海王變徐錦江的相關(guān)報道。

《射雕英雄傳》中，朱茵變楊冪

海王變徐錦江

這些技術(shù)的背后，是2017年年底的Deepfakes軟件帶來的結(jié)果。當時Reddit用戶Deepfakes，將《神奇女俠》的女主角蓋爾·加朵、以及艾瑪沃森、斯嘉麗等眾多女明星的臉跟AV***進行了交換，制作出足以以假亂真的愛情動作片。

接下來我們來了解下Deepfakes的技術(shù)內(nèi)容：

Deepfakes 使用生成對抗網(wǎng)絡(luò)(GAN)，其中兩個機器學習模型進行了較量。一個ML模型在數(shù)據(jù)集上進行訓練，然后創(chuàng)建偽造的視頻，而另一個模型嘗試檢測偽造。偽造者創(chuàng)建假視頻，直到另一個ML模型無法檢測到偽造。訓練數(shù)據(jù)集越大，偽造者越容易創(chuàng)建可信的deepfake視頻。

上圖顯示了一個圖像(在本例中是一張臉)被輸入到編碼器(encoder)中。其結(jié)果是同一張臉的低維表示，有時被稱為latent face。根據(jù)網(wǎng)絡(luò)架構(gòu)的不同，latent face可能根本不像人臉。當通過解碼器(decoder)時，latent face被重建。自動編碼器是有損的，因此重建的臉不太可能有原來的細節(jié)水平。

程序員可以完全控制網(wǎng)絡(luò)的形狀：有多少層，每層有多少節(jié)點，以及它們?nèi)绾芜B接。網(wǎng)絡(luò)的真實知識存儲在連接節(jié)點的邊緣。每條邊都有一個權(quán)重，找到使自動編碼器能夠像描述的那樣工作的正確權(quán)重集是一個耗時的過程。

訓練神經(jīng)網(wǎng)絡(luò)意味著優(yōu)化其權(quán)重以達到特定的目標。在傳統(tǒng)的自動編碼器的情況下，網(wǎng)絡(luò)的性能取決于它如何根據(jù)其潛在空間的表示重建原始圖像。

訓練Deepfakes

需要注意的是，如果我們單獨訓練兩個自動編碼器，它們將互不兼容。latent faces基于每個網(wǎng)絡(luò)在其訓練過程中認為有意義的特定特征。但是如果將兩個自動編碼器分別在不同的人臉上訓練，它們的潛在空間將代表不同的特征。

使人臉交換技術(shù)成為可能的是找到一種方法來強制將兩個潛在的人臉在相同的特征上編碼。Deepfakes通過讓兩個網(wǎng)絡(luò)共享相同的編碼器，然后使用兩個不同的解碼器來解決這個問題。

在訓練階段，這兩個網(wǎng)絡(luò)需要分開處理。解碼器A僅用A的人臉來訓練；解碼器B只用B的人臉來訓練，但是所有的latent face都是由同一個編碼器產(chǎn)生的。這意味著編碼器本身必須識別兩個人臉中的共同特征。因為所有的人臉都具有相似的結(jié)構(gòu)，所以編碼器學習“人臉”本身的概念是合理的。

生成Deepfakes

當訓練過程完成后，我們可以將A生成的一個latent face傳遞給解碼器B。如下圖所示，解碼器B將嘗試從與A相關(guān)的信息中重構(gòu)B。

如果網(wǎng)絡(luò)已經(jīng)很好地概括了人臉的構(gòu)成，那么潛在空間將表示面部表情和方向。這意味著可以為B生成與A的表情和方向相同的人臉。

請看下面的動圖。左邊，UI藝術(shù)家Anisa Sanusi的臉被從一個視頻中提取并對齊。右邊，一個訓練好的神經(jīng)網(wǎng)絡(luò)正在重建游戲設(shè)計師Henry Hoffman的臉，以匹配Anisa的表情。

顯然，Deepfakes背后的技術(shù)并不受人臉的限制。例如，它可以用來把蘋果變成獼猴桃。

重要的是，訓練中使用的兩個主體要有盡可能多的相似之處。這是為了確保共享編碼器能夠泛化易于傳輸?shù)挠幸饬x的特性。雖然這項技術(shù)對人臉和水果都有效，但不太可能將人臉變成水果。

你還敢“ZAO”嗎？

ZAO不僅國內(nèi)火爆，國外用戶也紛紛被這一APP驚艷到了，不少人也分享出自己用ZAO做的“好萊塢大片”。

比如這個在Twitter上已經(jīng)播放了50多萬次的視頻，就是一位印度游戲開發(fā)工程師用ZAO做出的《泰坦尼克號》，視頻中，他化身Jack，融入到一幕幕經(jīng)典場景中。

在評論中，外國網(wǎng)友也熱議這個APP。

“太瘋狂了...從現(xiàn)在開始，這個世界再也不知道什么是真的了”

“嘿伙計們，來玩有趣的新AI學習算法，絕對不會用來訓練面部識別軟件帶來可怕的安全問題并奴役我們所有人！”

“說實話，每個允許用戶發(fā)布自拍的平臺都可以做到。問題是人們永遠不會停止發(fā)布自拍。”

“deepfake的演變是不可思議的。該技術(shù)僅用了3年時間，現(xiàn)在它已經(jīng)用于公共應(yīng)用程序中。” 對于ZAO，你怎么看？