多數(shù)人自信辨真?zhèn)危欢疃葌卧斓呐d起卻令此能力或許愈發(fā)困難。

深度偽造(Deepfake)是由人工智能（AI）創(chuàng)建的數(shù)字內(nèi)容，可涵蓋音頻、視頻及靜態(tài)圖像，看似真實(shí)無比。其常將人物描繪出不實(shí)言行。網(wǎng)絡(luò)安全專家和技術(shù)專家越來越多地警告說，這些內(nèi)容可能被用于各種惡意方式，包括欺詐計(jì)劃或傳播錯(cuò)誤信息。

IDENTIFYING RISKS

關(guān)于深度偽造的興起，專家們警告的一個(gè)重點(diǎn)領(lǐng)域是名人和政界，但攻擊也可能針對(duì)個(gè)人。

IEEE會(huì)員Rebecca Herold分享了一則軼事，說明了深度偽造的風(fēng)險(xiǎn)。Herold說：“我的一個(gè)朋友出差時(shí)接到了妻子的電話。她非常沮喪，抽泣著告訴他自己出了事故，身上沒有錢叫拖車。我朋友幾乎完全相信了這個(gè)電話，這聽起來就是他妻子的聲音。但當(dāng)這個(gè)朋友告訴妻子需要給拖車公司電匯，掛了電話后，他又撥通了妻子的電話號(hào)碼 —— 他說他差點(diǎn)就被騙了，聲音非常真實(shí)，然而，他的妻子很安全。”

HOW MANY FINGERS AM I HOLDING UP?

雖然深度偽造可以令人難以置信地信服，但它們往往有著微妙的線索表明它們可能不是真的。

IEEE會(huì)員Yale Fox表示：“目前，深度偽造與真實(shí)視頻并非完全無法區(qū)分，但我們正在逐漸接近。大多數(shù)人仍然可以識(shí)別深度偽造視頻。”

人工智能在創(chuàng)造他人的正面形象方面變得非常出色。然而，他們?cè)诩?xì)節(jié)方面仍然存在問題，比如人們從側(cè)面和背面看的樣子。一定要從各個(gè)角度觀察圖像。深度偽造的照片和視頻往往比人類實(shí)際擁有的牙齒多得多。如果有人在微笑或露出牙齒，請(qǐng)仔細(xì)觀察一下。

深度偽造的照片和視頻也經(jīng)常給人們太多或太少的手指。注意計(jì)算照片或視頻主題上有多少手指。

深度偽造在人物的側(cè)面和角度視圖方面也存在問題。如果你通過直播視頻與某人交流，并且你認(rèn)為這是一個(gè)深度偽造的視頻，請(qǐng)他們看向側(cè)面，或者問他們一個(gè)會(huì)讓他們轉(zhuǎn)頭的問題，比如“嘿，我喜歡你身后墻上的那幅畫。這是哪位藝術(shù)家的？”

深度偽造的照片和視頻通常包含不一致的地方，如光線、反射和陰影。

深度偽造的視頻通常包含快速但不自然的動(dòng)作。例如，尋找/不尋常的急動(dòng)或似乎在時(shí)間上的跳躍。

深度偽造音頻通常帶有一點(diǎn)不自然或不一致的音頻質(zhì)量，這種情況或偶爾出現(xiàn)。

A RACE FOR NEW TECHNOLOGY

深度偽造可能造成社會(huì)危害，這引發(fā)了政府、大學(xué)和私營(yíng)企業(yè)對(duì)檢測(cè)工具的研究浪潮。

一些技術(shù)評(píng)估可疑內(nèi)容本身。例如，一些工具可能會(huì)評(píng)估人臉上的血流，尋找不自然的混合或模糊狀態(tài)。或者觀察一個(gè)人眼睛的反射，看看它是否與周圍環(huán)境相匹配，以此作為真實(shí)性的指標(biāo)。IEEE信號(hào)處理協(xié)會(huì)主辦的一次全面討論展示了其中一些技術(shù)在實(shí)踐中的應(yīng)用。

其他工具可能會(huì)評(píng)估文件的元數(shù)據(jù)是否存在操作跡象。

IEEE高級(jí)會(huì)員Kayne MGladrey表示：“同樣，產(chǎn)生深度偽造的威脅參與者可能會(huì)從檢測(cè)算法中學(xué)習(xí)，并相應(yīng)地調(diào)整自己的技術(shù)。這里至關(guān)重要的是，視頻和音頻內(nèi)容的主要分銷商投資大規(guī)模部署這些解決方案，以防止錯(cuò)誤信息或虛假信息的傳播。”