去年陷入“數據丑聞”后的 Facebook 日子并不好過，在這之后他們對外界強調的關鍵詞大部分都是“隱私”和“安全”。即便如此，在剛剛過去的 Facebook F8 大會上，扎克伯格忍不住自嘲，由于在數據隱私方面的問題，很多人依然不信任 Facebook。

不過，不止 Facebook 一家公司，如何使用現有的 AI 等技術最大限度保護用戶不受傷害是每個公司都要不斷探索的問題。而對于經歷過一年大風浪的世界級企業， Facebook 為重視數據隱私和平臺安全的努力也有目共睹。

Facebook CTOMike Schroepfer和 Facebook AI 部門的研究科學家Manohar Paluri 在近日的 F8 大會上發表了主題演講，他們主要談到了如何使用 AI 技術來保護平臺用戶安全地使用產品，需要做到兩點：1、理解內容；2、Facebook 如何使用自監督學習方法來提高內容識別的準確性，同時減少翻譯、NLP、圖像識別等應用中對標記數據的要求。

Yann LeCun 對此評論稱，這有助于改進對具有暴力畫面、仇恨的言論、干擾選舉、錯誤信息、僵尸賬戶等違規內容的過濾。

拋開對 Facebook 依然懷疑的目光，我們或許更應該去看看它在技術上到底做了哪些努力，他們的 AI 等技術實踐也可能對其他公司在保護用戶數據和使用體驗方面有重要的技術指導意義。

具體技術細節，都在以下演講全文里：

AI 在 Facebook 的各種應用中無處不在，其中最重要的一項工作是幫助我們平臺上的用戶安全使用。

為了使所有這些系統更加有效，我們需要在兩個方面繼續改進 AI 技術：理解內容以及使用少量的標記訓練數據高效工作。

我們最近在 NLP和 CV 方面取得的進展表明，內容理解方面的工作如何產生效益。在 NLP 領域，我們開發了一個共享的多語言嵌入空間，可以作為一種通用語言來對有害內容進行處理，即使在資源匱乏的語言中也是如此。在 CV 領域，基于行業領先的研究基礎，我們可以識別圖像中更多部分的內容，并使用標簽為視頻理解實現創紀錄的準確性。

隨著我們理解內容的能力在不同模式下不斷提升，我們在自監督技術的新前沿也取得了進展。這種技術將通過預訓練系統加速學習，可以成為下一代更快、更靈活工具的基礎技術。

我們將在此重點介紹 Facebook 如何提高內容理解系統的準確性和效率，并找到通過較少監督學習方法來完成更多工作的新方法。

一、使用多語言句子嵌入來處理違規內容

為了檢測人們何時發布了違規內容，我們的系統需要理解語言。具體來說，我們的系統使用機器學習來掃描給定的句子并回答一系列問題，例如“它是否有害的（hateful）？”使用這些問題的答案，以及互動的語境和其他信號，我們可以確定系統是否采取行動，例如標記給人工審核員。

為了讓 ML 系統來回答這些問題，我們則需要用給定語言的數千個例子來進行訓練。世界上大約有 6500 種語言，這包括目前缺乏大量培訓數據集的語言，找到足夠的例子來開發支持所有語言的內容理解系統是巨大的挑戰。

通過在共享嵌入空間中以多種語言映射相似的句子，我們可以更好地理解相關內容而無需翻譯每個句子。

為了幫助解決訓練數據的稀缺性，我們正利用我們最近開源的工具包 LASER（Language-Agnostic SEntence Representations），該工具包通過訓練單個模型來理解大量語言。以前我們需要為每種語言準備不同的模型，LASER 的表示空間允許我們訓練一種語言模型，然后將該模型應用于一系列語言，而無需特定語言的訓練數據，也無需進行翻譯，這被稱為“零樣本遷移學習（zero-shot transfer learning）”。LASER 還允許我們通過在語言未知的表示空間內將這些句子相互映射，來識別出在意義上相似的句子。

LASER 開源地址：https://github.com/facebookresearch/LASER

對于希望系統可以增加理解語言數量的研究人員來說，這樣的跨語言技術提供了一種更具可擴展性的替代方案，可以嘗試收集和注釋每種語言的數據。這種方法還允許我們挖掘用于機器翻譯的并行訓練數據，并且對于低數據資源語言（我們的訓練示例較少）特別有用。識別跨語言的類似句子有助于同時捕獲多種語言的類似違規行為。為了生成每個句子級別的嵌入，我們首先使用字節對編碼表示給定句子的單詞，然后使用一個五層雙向 LSTM（長短期記憶）模型，然后是最大池化（max pooling）操作（因為句子包含任意字數）。

通過大規模訓練這個系統——93 種語言，屬于 30多個語系并用 22 種不同的腳本編寫，我們能夠獲得與語言無關的句子嵌入，并且能夠支持自動檢測違規行為的這種能力尤其與低資源語言相關。

這種方法與我們的跨語言預訓練研究一起，將提高我們以多種語言處理仇恨言論、欺凌和其他違規行為的能力，而無需額外語言標記的訓練數據。這兩種技術都將支持我們現有的多語言詞匯嵌入，它將來自不同語言的相似詞語映射到同一個空間（與 LASER 的句子級別映射相反）。這些嵌入已經部署到生產中，用于包括識別違規內容等廣泛的跨語言理解任務。

二、全景 FPN：圖片和視頻理解的最新技術

人們在我們的平臺上分享了數十億張圖片，那么理解其中的內容對保護人們的安全至關重要。即使是簡單的像素分析可能足以讓我們的系統識別圖片中的單個對象，我們甚至可以進一步推動業界領先的 CV 能力，并讓系統了解這些對象之間的聯系，以判斷違規行為。

（注：近日，基于何愷明團隊提出的“全景分割”任務開始變得熱門，今年1月他們公布了《Panoptic Feature Pyramid Networks》論文。）

論文鏈接：https://arxiv.org/abs/1901.02446

我們的系統擅長識別圖片前景中的對象，例如狗或球，但目前還是難以理解面積較大，包含較少像素集合的構成圖片的背景。使用全景 FPN（Panoptic FPN）這種新的對象識別方法，我們可以在一個統一的神經結構上同時執行實例分割任務（用于前景）和語義分割任務（用于背景）。

多年來，Facebook 的 CV 系統逐漸識別到更多的圖像組件，現在可以通過單個網絡檢測前景和背景中的對象。這樣可以更好地理解照片的整體背景，以及更高計算效率的圖像識別。

Facebook 的實踐結果表明，與只做一個或其他網絡相比，全景 FPN 幾乎可以將執行實例和語義分段所需的整體計算效率提升一半。在實踐中能使系統更好地了解圖像，這在判定是否違規時很重要。但是這項工作也會影響其他應用，例如可能會改變我們用來向視障人士描述圖像的自動轉換文字功能。

與圖片中的查找違規行為相比，在視頻中的難度是數量級的。理解視頻意味著要考慮構成給定幀序列的大量圖像和該序列中所表示的移動，同時還要處理非視覺輸入，例如音頻。

由于存在這樣的挑戰，視頻理解還處于起步階段。我們在準確性和效率方面始終如一地在推動最先進的技術，部分是通過將系統的注意力和訓練集中在最相關的數據上。例如，通過將 3D 卷積分解為 2D 和 1D 卷積（分別與給定視頻序列中的空間和時間相關），我們減少了可訓練參數的數量。或者，我們可以保持相同數量的參數并提高準確性。總之使用此框架，我們可以找到準確性和效率之間的平衡點。

不同于將給定視頻中的每一幀傳遞給時空卷積神經網絡，我們的顯著性采樣方法是將包含顯著性動作的視頻隔離開來進行進一步地處理。

為了理解視頻中發生的事情，我們將其分解為短片段（每個片段由少量連續幀組成），并通過我們最新的時空模型發送一小組連續幀。然后，我們可以匯總這些信息預測整個視頻內容。

然而，在許多視頻中，只有少數片段具有針對特定任務的顯著性信息，其余的片段則是冗余的或不相關的，例如檢測欺凌視頻。因此，為了進一步提高視頻中發現可操作事件的速度和效率，我們創建了一個顯著性采樣器。該系統經過訓練，專注于包含特定行為的部分，然后更詳細地處理這些幀集。這種更有針對性的分析和訓練能更快、更準確地視頻理解內容。

三、將標簽用于視頻理解的創紀錄準確性

我們還開發了一種不同的方法為識別行為設定了新的技術方法，包括指出內容違規的行為。

這種技術直接建立在我們去年在 F8 大會（2018年5月）上公布的研究成果上，該研究使用帶有標簽的數十億公共圖像來訓練網絡，并且能夠在圖像識別任務中擊敗最先進的技術。在我們的新方法中，帶標簽的數據充當了弱監督數據，這意味著標記的訓練示例是可使用的，但這并沒有完全監督的精確度。

與專門用于訓練 AI 模型的標簽相比，這樣得到的注釋噪音大且不精確。但是，這種方法所提供的標記示例的數量表明，我們可以基于前所未有的大量訓練數據，而不是通過基于弱監督的訓練數據來顯著改善視頻理解。

在這種情況下，我們訓練的最大數據集包含超過 6500 萬個帶有標簽的公共 Instagram 視頻。相比之下，當前的行動分類數據集僅包含幾十萬個視頻。使用這些視頻帶來的技術挑戰與十億次數量級別的圖像識別工作類似，例如必須在硬件上進行分布式訓練，也有新的挑戰，包括處理通常只適用于視頻一小部分的標簽的事實，比如一個標記為#wedding 和 #dance 的視頻可能只是一對新婚夫婦在長時視頻中花了幾秒鐘在跳舞。

盡管存在這種隨機噪聲問題，但我們發現內容的多樣性和示例的絕對規模抵消了標簽噪聲。通過使用我們的顯著性采樣器，視頻識別模型在三個主要的視頻分類基準測試中實現了最先進的精度。這包括在將視頻分類為 400 種不同的人類行為類別之一時，在動力學數據集上達到 82.8％ 的準確度，這比其他最為先進技術的準確度提高了 5.1％，而錯誤率相對減少超過了 25％。我們已將這種方法應用于生產系統，將欺凌檢測率提高到了近85％。

通過將音頻合并到此模型也可以獲得更好的結果。我們的實驗證明，與使用相同架構和訓練過程的視覺模型相比，我們的音視頻模型在 AudioSet 音頻事件檢測基準測試中創造了新的記錄——在檢測褻瀆性內容和成人內容方面的準確性提高了20％。

四、自監督方法在內容理解的應用前景

語言、圖像和視頻理解方面是 Facebook 持續努力的一部分。但當我們著眼于保持平臺安全這一長期任務時，創建可以使用大量未標記數據進行訓練的系統將變得越來越重要。

我們今天的大部分系統都依賴于有監督的培訓，但這可能會導致一系列的訓練挑戰，例如在缺乏訓練數據，在收集和標記示例以從頭開始構建新分類器的長訓練時間的情況下，由于新的內容違規事件迅速發酵，如選舉等事件已成為有害內容的爆發點，我們有責任加快系統的開發，從而提高響應能力。

一個可能的答案是 Facebook 首席 AI 科學家 Yann LeCun 多年來一直在討論的自監督方法，而不僅僅依賴于以人類訓練為目的標記數據，或者甚至依賴于帶有公共標簽的圖像和視頻的弱監督數據。自監督方法能夠利用完全無標記的數據，該方法具有通用性，使自監督系統能夠使用少量標記數據來概括不可見的任務，并可能使我們更接近實現人類級別智能的 AI 技術目標。

基本上，Facebook AI 團隊的曾經研究策略最近都轉化成了能提供強大效果的系統，一些自監督的語言理解模型持續領先于使用傳統的、完全監督方法訓練的系統。

具體來說，我們開發了一些模型，通過訓練信號的其余部分來學習預測給定信號的一部分。例如，我們訓練其中一個自監督系統，通過掩蓋句子中的單詞來更好地理解語言，即使模型之前從未見過那個確切的句子。

給出一個像“A conversation about ________ and human connection”這樣的短句，人們可以很容易地猜出幾個可以填補空白的詞，但是這項任務對 AI 來說更具挑戰性。這是一個有用且可擴展的訓練任務的基礎，類似于 Google 同時引入的 BERT 模型來解決任務。我們可以依次清空一個句子的每個單詞，并對十億個單詞重復這個過程，這個過程當然無需標記。

通過分別分析屏蔽字左側和右側句子的上下文語境，我們的雙向變換模型能夠在不依賴標記數據的情況下預測丟失的字詞。

為了預測每個隱藏的單詞，我們使用雙向變換網絡（bidirectional transformer networks），通過計算句子的前后狀態（掩碼右側和左側的單詞）來模擬句子的其余部分，然后組合這些表示來確定中心詞。一旦系統以這種未標記的方式進行了訓練，我們就可以使用標記數據對特定任務進行微調，例如用來識別仇恨言論。

在內部測試時，這種自監督和有監督訓練的混合使我們能夠以少 10 倍的數據訓練出比肩完全監督模型能獲得的準確度，或者使用相同數量的訓練數據，相比完全監督模型能相對減少 20％ 的誤差。

我們還使用自監督訓練來改善語音識別能力。我們創建了一個音頻片段幾個版本，并且更改了一些音頻的部分內容，而模型必須僅使用原始音頻作為輸入來確定哪個版本是正確的，同樣沒有轉錄或使用其他標簽。

對于這種方法，我們使用兩個堆疊在一起的網絡：將原始音頻映射到較低時頻的特征表示的編碼器網絡，以及預測正確音頻的上下文網絡。為了使任務更有效地進行訓練，我們通過上下文網絡進一步預測未來，使預測問題變得愈加困難。

在使用兩個卷積神經網絡對原始的、未標記的音頻數據進行預訓練模型后，系統優化后以解決一項越來越困難的任務：預測不同時間的音頻，箭頭表示未來進一步的預測。

一旦這種預訓練的、自監督模型能很好的理解語音，我們就會使用少量的監督數據：80 小時的轉錄音頻來訓練最終的語音識別系統。我們的系統使用的標記數據比最佳系統 Deep Speech 2 少了 150 倍，同時將字詞錯誤率降低了 9％。這項工作使我們能夠快速將語音識別功能擴展到更多語言，并且每種語言都不需要大量的轉錄語音。

這兩種方法都側重于語音和語言理解，但它們也代表了我們如何探索甚至結合不同程度的數據監督的更基礎的方法轉變。這包括利用大量未標記的訓練數據，以及使用少量標記數據來釋放自監督系統的巨大潛力。在所有與人工智能相關的任務中，強調自監督可以加速這些任務，但沒有一項任務比提高使用我們產品的人的安全更重要。