流言止于智者，聊天止于呵呵。

在 2013 年之前，“呵呵”還只是呵呵，然而風(fēng)云突變，這個一直被用作表達(dá)禮貌、微笑的詞匯，卻在 2013 年被網(wǎng)友評選為年度最傷人聊天詞匯。如果以前的“呵呵”是尷尬而不失禮貌的微笑，現(xiàn)在則是充滿嘲諷和攻擊性的一個詞。

時間來到 2018 年，互聯(lián)網(wǎng)上最讓討厭的已經(jīng)不再只有噴子，各種陰陽怪氣的言論，比如“呵呵”，比如“你開心就好”，簡直讓人渾身難受，這種喜歡抬杠的人我們稱之為“杠精”。

互聯(lián)網(wǎng)在進(jìn)化，互聯(lián)網(wǎng)的語言也在進(jìn)化，互聯(lián)網(wǎng)的監(jiān)管技術(shù)也在進(jìn)化。在這場很難設(shè)定邊界的對抗中，知乎已經(jīng)率先向杠精開戰(zhàn)。

▌什么是陰陽怪氣？

想要對抗陰陽怪氣，首先就要給它下一個準(zhǔn)確的定義，然而這十分困難。

YC 聯(lián)合創(chuàng)始人保羅·格雷厄姆將人跟人之間的意見不統(tǒng)一、反對、沖突分成了七個層級，叫 Disagreement Hierarchy（以下簡稱 DH 值），如下圖所示：

陰陽怪氣可用“杠精”這個詞來指代，通常以“不針對發(fā)言內(nèi)容，而是批評對方的語氣”以及“提出反對意見，但不給或給出極少數(shù)論據(jù)支持”這兩類常見言論為代表，此類評論極大了傷害創(chuàng)作者和交流者的體驗，但難以解決。

——以上是知乎給出的定義。

當(dāng)然，也有一些具體的例子，比如：呵呵，你厲害，你咋不上天呢，自以為是的人等等。而根據(jù)知乎 6 月的最新統(tǒng)計數(shù)據(jù)，被知友們踩過次數(shù)最多的 Top 10 評論有下面幾種：

那你可真是夠棒的！

你還是省省吧！

你開心就好。

相信大部分讀者都對這些言論都非常熟悉，而且記憶猶深，畢竟被抬杠并不是一種好的體驗。知乎給出的解決方案是：「陰陽怪氣」等嚴(yán)重影響大家討論體驗的評論，作者可以「一鍵折疊」，其他知友也可以點「踩」，當(dāng)被踩評論的分值達(dá)到一定閾值后，評論會被自動折疊。

除了依靠用戶的自發(fā)行為之外，知乎也在嘗試?yán)?a target="_blank">算法來識別陰陽怪氣的言論。

▌如何對抗陰陽怪氣？

作為知乎的“當(dāng)家機(jī)器人”，瓦力算法除了作用于社區(qū)內(nèi)的不友善、答非所問以及低質(zhì)提問等內(nèi)容外，最近也正在優(yōu)化識別陰陽怪氣類內(nèi)容的模型。

根據(jù)知乎內(nèi)容質(zhì)量團(tuán)隊技術(shù)負(fù)責(zé)人劉兆來的說法，“瓦力已經(jīng)產(chǎn)品化很久了，過去通過關(guān)鍵詞和不友善文本識別模型，可以處理辱罵類的文本；目前，我們希望通過對陰陽怪氣類的杠精性質(zhì)評論進(jìn)行處理，提升用戶體驗。”

劉兆來詳細(xì)介紹了“瓦力”最新的陰陽怪氣技術(shù)方案：首先通過知乎社區(qū)里的舉報、反對等負(fù)向用戶行為收集訓(xùn)練數(shù)據(jù)。然后通過各種同義詞替換、規(guī)則模版方式對訓(xùn)練數(shù)據(jù)進(jìn)行擴(kuò)展，以緩解訓(xùn)練數(shù)據(jù)不足的問題。同時，“瓦力”提取文本、句法、表情符等特征，并利用一個帶 attention 的 CNN 和 LSTM 的融合模型進(jìn)行分類，最終判斷出內(nèi)容是否為陰陽怪氣。

具體來說，可以分為以下幾個步驟：

首先，進(jìn)行數(shù)據(jù)增強(qiáng)，以提升模型的泛化能力；

數(shù)據(jù)增強(qiáng)是為了提升模型在大量數(shù)據(jù)上的泛化能力。在這方面，知乎進(jìn)行了兩種嘗試：提取陰陽怪氣關(guān)鍵詞做替換，比如同音異字變換，洗地黨→洗滌黨，真的很惡心 → 震得很惡心；此外，知乎也利用提取出的陰陽怪氣關(guān)鍵樣本，隨機(jī)構(gòu)造評論上文與評論。

其次，提取相關(guān)數(shù)據(jù)特征，利用卷積網(wǎng)絡(luò)以及人工特征等來獲得更多更詳細(xì)的特征；

特征構(gòu)建層方面，知乎從文本特征、數(shù)值特征、陰陽怪氣詞以及表情詞著手。文本特征即文本加入陰陽怪氣關(guān)鍵詞進(jìn)行分詞后，保留標(biāo)點，表情等；數(shù)值特征即句子長度，句號數(shù)量，感嘆號數(shù)據(jù)等；陰陽怪氣詞即提取社區(qū)內(nèi)被踩過很多次的表示陰陽怪氣關(guān)鍵詞；表情特征：劃分正負(fù)樣本表情。

最后，將提取出的特征輸入分類器。

特征學(xué)習(xí)層方面，主要考慮了評論和上文的文本特征，包括字，詞，標(biāo)點，表情符號等，并利用知乎全量數(shù)據(jù)訓(xùn)練 word2vec 模型。知乎將評論上文與評論經(jīng)過 embedding 層后分成兩個金字塔型 CNN 網(wǎng)絡(luò)，目的是訓(xùn)練各自獨(dú)立的參數(shù)，知乎采取 CNN 網(wǎng)絡(luò)是因為 CNN 卷積可以捕獲字詞的位置關(guān)系也可以比較有效的提取特征。

除上述文本特征外，知乎也充分考慮了其它特征，比如評論長度，評論中句號，問號等標(biāo)點的個數(shù)，評論中是否包含陰陽怪氣關(guān)鍵詞等；這些特征離散化后，與評論的卷積提取特征進(jìn)行拼接，最后與評論上文的卷積輸出進(jìn)行 dot-attention 目的是獲取評論上文與評論不同的權(quán)重。最后，知乎將特征數(shù)據(jù)全連接層以 softmax 方式進(jìn)行了分類。

至于這個模型對陰陽怪氣的效果如何，知乎運(yùn)營總監(jiān)孫達(dá)云表示，其準(zhǔn)確率比大部分人工判斷還要準(zhǔn)。

▌難點在哪里？

然而，機(jī)器并不是總能解決所有問題，很多時候人工智能會表現(xiàn)的像人工智障。這一點，知乎自己也承認(rèn)，特別是在理解人類語言這一領(lǐng)域。

上圖是劉兆來列舉的一些算法漏識別和誤識別的情況：

通過分析這些 bad case，現(xiàn)代模型主要受限于訓(xùn)練數(shù)據(jù)。一方面是訓(xùn)練數(shù)據(jù)的覆蓋范圍不夠廣，所以一些不是很常見的詞語，模型就會識別不出來。比如算法漏識別里的第二條，這些詞在訓(xùn)練里面比較少，甚至在模型里面沒有這些詞，所以模型會識別錯誤。

第二個類型的錯誤，模型過渡彌合了一些數(shù)據(jù)，比如前面兩條比較明顯。第一條就是因為我們加入了一些標(biāo)點符號數(shù)據(jù)特征，可能在訓(xùn)練數(shù)據(jù)里面有連續(xù)兩個問號這種屬于陰陽怪氣的概率比較高。第二個，“哈哈哈”可能在陰陽怪氣的樣本里面比較多，所以模型會把這兩個特征作為是不是陰陽怪氣比較重要的根據(jù)，就會導(dǎo)致誤判。

反諷本身是情感分析領(lǐng)域的一個傳統(tǒng)難題，在孫達(dá)云看來，“解決陰陽怪氣類評論的難點核心主要在于網(wǎng)絡(luò)語言的復(fù)雜性，情感分析不同于普通文本分析，例如經(jīng)典的‘呵呵’，由于雙方不同關(guān)系、說話的不同場景和時間都會帶來迥然不同的表意。即便是人工判定都存在標(biāo)準(zhǔn)化難度，算法模型的訓(xùn)練挑戰(zhàn)就更為艱辛。”

總的來說，這項艱巨的任務(wù)的難點主要在于以下幾點：

需要基于上下文理解深層語義

需要了解某些背景知識

訓(xùn)練樣本難獲取

……

面對這些問題，劉兆來介紹未來的工作重點：

訓(xùn)練數(shù)據(jù)獲取。因為訓(xùn)練數(shù)據(jù)標(biāo)注特別困難，后邊會通過主動學(xué)習(xí)（ActiveLearning）來減少樣本標(biāo)注的時間和工作量。

語義分析。首先會嘗試加入詞語的褒貶樣本，就是一些諧音語句；第二個就是在詞表征方面，會嘗試 ELMO 的算法，最近 ELMO 詞向量在多個 NLP 任務(wù)能取得提升，ELMO 詞向量利用雙向 LSTM 訓(xùn)練獲得，可以捕獲上下文信息以及更深層的語義；還有就是嘗試比較復(fù)雜的模型。

背景知識。不同領(lǐng)域會有一些用詞的區(qū)別，未來會對于體育、明星等領(lǐng)域分別建立模型。

▌AI 的邊界？

人工智能是建立在人類標(biāo)準(zhǔn)之上的，它代表的也是人類的價值觀。然而，人們對“陰陽怪氣”的定義仍然模糊，不同的人針對同一個評論也會有很大的分歧。知乎在做的，就是找到社區(qū)的最大公約數(shù)。

不同的人對于同一個內(nèi)容會有不同的判斷，這個沒有問題，但是如果絕大多數(shù)人都認(rèn)為這條評論內(nèi)容是不禮貌的，它是冒犯性的，我們就需要對這條內(nèi)容進(jìn)行標(biāo)記、進(jìn)行干預(yù)，我們通過算法訓(xùn)練已經(jīng)無限接近了最大公約數(shù)的概念。

人類可以接受人類犯錯，但是很難接受機(jī)器犯錯，特別是在機(jī)器做的還沒有人類好的情況下。此外，用人工智能去管理人類，其實是很大冒險。有知友表示，“把社區(qū)越多的控制權(quán)交給社區(qū)，其實越會導(dǎo)致社區(qū)畸形，這是人性問題，不能通過人工智能解決。”

戴維·溫伯格在《知識的邊界》一書里寫道：知識的網(wǎng)絡(luò)化正在對知識的本質(zhì)以及長形式思考在其中發(fā)揮的作用，帶來一些根本性的變化。如果書籍告訴我們，知識是從 A 到 Z 的漫長旅程，那么網(wǎng)絡(luò)化的知識可能會告訴我們，世界并非是一個邏輯嚴(yán)密的論證，而更像是一個無定形的、相互交織的、不可掌控的大網(wǎng)。

人類掌控不了的就寄希望于人工智能，于是我們努力去拓展 AI 的邊界。至于它最終會不會讓我們失望？這就需要留給時間去驗證了。