美國防部研發出了全球首款“反AI變臉刑偵檢測工具”，專用于檢測AI變臉/換臉造假技術。如今，以GAN為代表的AI換臉術盛行，相應的人臉檢測識別技術也不得不提升，這僅僅是一場漫長而又精彩的AI軍備競賽的開始。

昨天，新智元介紹南加州大學“殺馬特教授”黎顥率領的Pinscreen團隊的實時3D變臉技術后，引發了不少讀者的擔憂。

黎顥團隊的實時變臉技術：左邊是iPhone拍攝的圖像，右邊是實時生成的3D人臉。來源：fxguide.com

有人擔心，支付寶的人臉識別技術會因此失效，或者衍生出新的詐騙方法，犯罪者利用你的圖片冒充你跟另一個人聊天……

這些擔憂都是切實存在的，因為如今的“AI變臉術”，已經達到出神入化的境界，任何人利用AI軟件，幾乎都能做到模仿政治人物的臉，要是有一定技術的人，還能做到真假難辨的程度：

這些AI變臉工具，實際上都源自于生成對抗網絡（GAN）強大的圖像生成能力。

不過，現在美國國防部研究機構 DAPRA 研發出了首款“反變臉”的AI刑偵檢測工具，而其原理，也是以AI攻AI。

這款AI反變臉刑偵工具是DARPA Media Forensics 計劃的一部分。早在今年 5 月，DARPA 便提出了要研發針對AI變臉技術的需求，讓現有的刑偵檢測工具變得自動化，能夠檢測近來涌現的AI假臉。

DARPA Media Forensics 項目負責人 Matthew Turek 表示，他們在GAN生成的假臉中發現了一些細微的線索，由此檢測出圖像或視頻中的臉是真實的還是AI生成的。

還記得2016年，“3.15晚會”讓一張照片“騙過”人臉識別軟件，從而讓“人臉識別”一夜走紅大江南北。

如今，更加高級的AI變臉技術和偵測AI變臉技術，也將展開一場長期艱苦，但也精彩卓絕的AI軍備競賽。

在2016年“3·15”晚會現場，主持人使用了一項 AI 技術，把靜態的照片轉化成動態照片，從而騙過登錄系統。這一技術在手機上就能實現

就看誰能走得更好更快。

美國防部研發出首款“反AI變臉”刑偵工具：準確率高達99%

DARPA 的這款工具主要是基于紐約州立大學奧爾巴尼分校教授Siwei Lyu和他的學生 Yuezun Li和 Ming-Ching Chang 的共同發現，也即使用AI技術生成的假臉（一般通稱 DeepFake），極少甚至不會眨眼，因為它們都是使用睜眼的照片進行訓練的。

“由于大多數訓練數據集都不包含閉眼的人臉圖像，因此AI生成的人臉缺乏眨眼功能，”Lyu說：“因此，缺少眨眼是判斷一個視頻真假的好方法。”

論文詳細介紹了他們如何組合兩個神經網絡，從而更有效地揭露哪些視頻是AI合成的。這些視頻往往忽略了“自發的、無意識的生理活動，例如呼吸、脈搏和眼球運動”。

通過有效地預測眼睛的狀態，準確率達到99%。

“我們還需要探索其他深度神經網絡架構，以便更有效地檢測閉眼，“Lyu補充說：“我們目前的方法僅使用缺乏眨眼作為檢測AI篡改的提示。然而，也應考慮動態的眨眼模式——太快或頻繁眨眼，這種在生理上不太可能出現的現象也應該被視為篡改的跡象。”

UAlbany的一組研究人員使用原始視頻上的眨眼檢測（上圖）和DeepFake生成的假視頻（下圖）來確定視頻是否是AI偽造的。在原始視頻中，在6秒內檢測到眨眼動作。來源：UAlbany.edu

參與DARPA挑戰賽的其他人也在探索類似的技巧，比如自動檢測奇怪的頭部動作、奇怪的眼睛顏色等等。

達特茅斯大學的數字取證專家Hany Farid 表示，目前的AI反變臉工具主要利用利用這類生理信號，至少目前為止這些信號是很難被模仿的。

這些AI刑偵取證工具的帶來僅僅標志著AI視頻偽造者和數字刑偵人員之間AI軍備競賽的開始。

Hany Farid 表示，目前的一個關鍵問題是，機器學習系統可以接受更先進的訓練，然后超越當前的反變臉工具。

DARPA“反AI變臉計劃”：確保偵測到最先進的AI造假技術

DARPA 資助的 Media Forensics 計劃，旨在成功辨別由機器學習算法生成的虛假圖片和視頻。研究人員試圖開發出一種可擴展的平臺化工具，對尤其是基于GAN 模型的“Deepfake”生成的假視頻和圖像進行識別。

Deepfake很多時候會被用于生成一些明星或政客的惡搞視頻或剪輯，但也可能被用來惡意傳播虛假消息，以達到煽動和制造混亂等危險目的。

檢測數字化內容的真假通常涉及三個步驟：

首先是檢查數字文件中是否有兩個圖像或視頻拼接在一起的跡象；

第二是檢查圖像的光照度等物理屬性，查找可能存在問題的跡象；

第三步最難自動完成的，也可能是最棘手的，就是檢查圖像或視頻內容在邏輯上是否存在矛盾，比如圖像顯示拍攝日期的天氣與實際天氣不符，或者拍攝位置的背景有問題等。

目前，對大量真假難辨的數字化內容進行辨別的工具或應用仍缺乏廣泛的適用性，在涉及到取證、證據分析和鑒別等關系重大的應用方向上，這類工具的可擴展性和穩健性都無法完全滿足實務中的需求。

DARPA的MediFor項目匯集了世界級的研究人員，試圖開發出能夠自動評估圖像或視頻完整性的技術，并將這些技術集成到端到端平臺上。如果該項目獲得成功，MediFor平臺將能夠自動檢測對圖像或視頻的改動，并給出詳細信息，說明具體是如何改動的，以及判斷視頻是否完整的理由，以便于決定是否能夠將可疑圖像或視頻作為證據使用。

DARPA該項目負責人David Gunning表示：“從理論上講，如果你用現階段的全部技術來探測GAN生成的虛假結果，它就能學會繞開這些檢測技術。”不過，研究人員在對抗Deepfake時發現了一個重要弱點，它生成的假視頻中的人從來都不眨眼，這是一個重要特征。這是因為Deepfake用于生成的假視頻的訓練模型都是靜止的圖片，而人在拍照時，絕大多數情況下眼睛總是睜開的。

DARPA的研究人員表示，該機構將繼續進行更多測試來“確保開發中的識別技術能夠檢測到最新的造假技術。”

從Deepfake到HeadOn：換臉技術發展簡史

DAPAR的擔憂并非空穴來風，如今的變臉技術已經達到威脅安全的地步。最先，可能是把特朗普和普京弄來表達政治觀點；但后來，出現了比如DeepFake，令普通人也可以利用這樣的技術制造虛假色情視頻和假新聞。技術越來越先進，讓AI安全也產生隱患。

1、Deepfake

我們先看看最大名鼎鼎的Deepfake是何方神圣。

Deepfake即“deep learning”和“fake”的組合詞，是一種基于深度學習的人物圖像合成技術。它可以將任意的現有圖像和視頻組合并疊加到源圖像和視頻上。

Deepfake允許人們用簡單的視頻和開源代碼制作虛假的色情視頻、假新聞、惡意內容等。后來，deepfakes還推出一款名為Fake APP的桌面應用程序，允許用戶輕松創建和分享換臉的視頻，進一步把技術門檻降低到C端。

特朗普的臉被換到希拉里身上

由于其惡意使用引起大量批評，Deepfake已經被Reddit、Twitter等網站封殺。

2、Face2Face

Face2Face同樣是一項引起巨大爭議的“換臉”技術。它比Deepfake更早出現，由德國紐倫堡大學科學家Justus Thies的團隊在CVPR 2016發布。這項技術可以非常逼真的將一個人的面部表情、說話時面部肌肉的變化、嘴型等完美地實時復制到另一個人臉上。它的效果如下：

Face2Face被認為是第一個能實時進行面部轉換的模型，而且其準確率和真實度比以前的模型高得多。

3、HeadOn

HeadOn可以說是Face2Face的升級版，由原來Face2Face的團隊創造。研究團隊在Face2Face上所做的工作為HeadOn的大部分能力提供了框架，但Face2Face只能實現面部表情的轉換，HeadOn增加了身體運動和頭部運動的遷移。

也就是說，HeadOn不僅可以“變臉”，它還可以“變人”——根據輸入人物的動作，實時地改變視頻中人物的面部表情、眼球運動和身體動作，使得圖像中的人看起來像是真的在說話和移動一樣。

HeadOn技術的圖示

研究人員在論文里將這個系統稱為“首個人體肖像視頻的實時的源到目標（source-to-target）重演方法，實現了軀干運動、頭部運動、面部表情和視線注視的遷移”。

4、Deep Video Portraits

Deep Video Portraits是斯坦福大學、慕尼黑技術大學等的研究人員提交給今年8月SIGGRAPH大會的一篇論文，描述了一種經過改進的“換臉”技術，可以在視頻中用一個人的臉再現另一人臉部的動作、面部表情和說話口型。

例如，將普通人的臉換成奧巴馬的臉。Deep Video Portraits可以通過一段目標人物的視頻（在這里就是奧巴馬），來學習構成臉部、眉毛、嘴角和背景等的要素以及它們的運動形式。

5、paGAN：用單幅照片實時生成超逼真動畫人物頭像

最新引起很大反響的“換臉”技術來自華裔教授黎顥的團隊，他們開發了一種新的機器學習技術paGAN，能夠以每秒1000幀的速度對對人臉進行跟蹤，用單幅照片實時生成超逼真動畫人像，論文已被SIGGRAPH 2018接收。

Pinscreen拍攝了《洛杉磯時報》記者David Pierson的一張照片作為輸入（左），并制作了他的3D頭像（右）。 這個生成的3D人臉通過黎顥的動作（中）生成表情。這個視頻是6個月前制作的，Pinscreen團隊稱其內部早就超越了上述結果。