摘要： 談?wù)?a target='_blank' class='arckwlink_none'>機(jī)器人消滅人類，甚至談到機(jī)器人的‘意識’仍然是遙不可及的事。然而，來自人工智能的一項(xiàng)更為嚴(yán)重的威脅正在逼近，并可能產(chǎn)生嚴(yán)重的影響。 當(dāng)人們問我是干什么的，我常常對回答的深度感到困惑。說“人工智能”我很滿意，但太寬泛，而說“圖像處理”可能又太具體。然而，一聽到接下的來的毫不相干的問題我總是氣不打一處來。 “人工智能要主宰世界嗎？” 做為一位研究機(jī)器智能的人來說，這個(gè)問題的確讓我失望。我不能責(zé)怪這些懷疑者——人們大都認(rèn)為人工智能是某種未知而神秘的東西，密謀著最終要?dú)⒐馕覀兯腥耍驗(yàn)樗茴A(yù)測下一場我們想看的電影是香腸派對，此前我們看了一整夜的埃文·戈登伯格的片子。 許多人沒想到的是，不管我們認(rèn)為自己多么奇特，我們的選擇和基本智能都遵循著普遍的模式，對于這種模式計(jì)算機(jī)只要看多了就很容易識別出來。 這就使得 預(yù)測你所喜歡的音樂, 或建議我們在方便時(shí)所用的正確手機(jī)應(yīng)用 等方面對于機(jī)器來說是小菜一碟。我并不是說所有的 預(yù)測工作都具有同樣的性質(zhì)和難度，但指望該研究領(lǐng)域之外的人理解它是有難度。 理解我們目前的人工智能技術(shù)所擅長之處的關(guān)鍵是知道計(jì)算機(jī)在兩種基本環(huán)境中學(xué)習(xí)得特別好——i)受控環(huán)境，和ii)監(jiān)督之下。 我們看到谷歌的人工圍棋機(jī)器最近擊敗了最佳人類棋手。戰(zhàn)勝國際象棋的事早在我們還是孩童時(shí)就實(shí)現(xiàn)了。最近所看到的 許多有關(guān)擊敗人類的論文都提到Doom。其實(shí)在游戲中，你知道可能的結(jié)局、戰(zhàn)斗環(huán)境和你能采取的行動，這使得建模問題容易得多。一旦我們能對游戲所處的世界進(jìn)行建模，從模擬中學(xué)習(xí)則是下一部分——我們在硬件上實(shí)現(xiàn)了飛躍，大規(guī)模學(xué)習(xí)能力讓 AlphaGo 能 在最近實(shí)現(xiàn)突破。 （其理論一直存在）。 游戲是一種在受監(jiān)督、 受控環(huán)境下的最佳實(shí)例。在這種環(huán)境中，你能估計(jì)每次所采取行動所得到的懲罰，因此能有效地從錯(cuò)誤中進(jìn)行學(xué)習(xí)。督控環(huán)境的另一個(gè)例子是我們正在談?wù)摰碾娪邦A(yù)測。由于有記錄大批用戶和電影的表存在，加上用戶選擇模式，我們就有了預(yù)測下一部電影所需要的東西。 在督控環(huán)境中，我們知道要獲取哪種信息，因此能用同樣的方式處理類似的信息位。我們創(chuàng)建對象組，這有助于我們最終在需要做出預(yù)測時(shí)確定實(shí)現(xiàn)的算法。這是類似人類的智能人一般性學(xué)習(xí)的非常窄的子集。 人類在與環(huán)境作用中不僅發(fā)育了邏輯還有直觀，而且基本上是在沒有監(jiān)督的情況下實(shí)現(xiàn)的。象識別物體和理解物理原理的過程每一秒都在發(fā)生，總體來說，我們通過與它交互而學(xué)到更多有關(guān)的新信息。而在這方面，現(xiàn)在的計(jì)算機(jī)做得一塌糊涂。 圖像分類程序（Image Classifier）示意圖 (image courtesy: wildML.com) 今天，如果你想要機(jī)器能在照片中認(rèn)出你的車，你得告訴它要看什么（你的照片）以及你的車像什么。只要你提供大量有關(guān)你車的圖像, 那么它肯定能認(rèn)出它。亦即監(jiān)督中的學(xué)習(xí), 監(jiān)督是說你指出你的車在圖像中的樣子，然后它就懂得要找什么。今天計(jì)算機(jī)科學(xué)家正努力理解有沒有監(jiān)督或很少監(jiān)督下的學(xué)習(xí)——無監(jiān)督學(xué)習(xí)。我們最終要讓機(jī)器自己能明白什么是物體什么是場景而不用我們?nèi)ッ魇尽? 不用監(jiān)督或很少監(jiān)督的學(xué)習(xí)是個(gè)難點(diǎn)，人工智能研究大多集中在處理這個(gè)問題。我們的機(jī)器智能越來越高，但大數(shù)是在監(jiān)控的環(huán)境中。我們首先需要懂得如何讓機(jī)器人在無監(jiān)控下學(xué)習(xí), 從而讓系統(tǒng)有接近人類的智能。 所以說，談?wù)摍C(jī)器人消滅人類，甚至談到機(jī)器人的‘意識’仍然是遙不可及的事。然而，來自人工智能的一項(xiàng)更為嚴(yán)重的威脅正在逼近，并可能產(chǎn)生嚴(yán)重的影響。 就在本次會議剛剛開始時(shí)，我從前的顧問就第一次提到某種讓我質(zhì)疑人工智能應(yīng)用的事。 在早期人工智能技術(shù)中, 我們能輕易地理解算法為什么要那樣做。例如，我們想制造一臺能僅通過測量人的身高和體重而告訴他是否超重的機(jī)器。為此，我們只要計(jì)算該人的身體質(zhì)量指數(shù)（BMI）就行了，如果他過了某和臨界值就說他超重了。 這是非常原始的人工智能代理。實(shí)際上它只做邏輯判斷。 早期名為決策樹的算法通過檢查具體特征而將數(shù)據(jù)切分。 [Image courtesy : Wikipedia] 于今所使用的機(jī)器顯然沒那么簡單。它們采用復(fù)雜的海量輸入（如高清圖像） 并且需要對其內(nèi)容進(jìn)行細(xì)微的預(yù)測。象臨界值或決策樹在這里不起作用。系統(tǒng)越來越多地使用一套被統(tǒng)稱為 深度學(xué)習(xí)的算法, 這種計(jì)算密集技術(shù)能象人一樣運(yùn)用大量數(shù)據(jù)識別和學(xué)習(xí)具體模式。 一種典型的深度學(xué)習(xí)技術(shù)包含數(shù)個(gè)神經(jīng)元（圈），它們象人腦一樣互相連接，傳遞信息。 [Image courtesy neuralnetworksanddeeplearning.com] 這些系統(tǒng)雖然因需要大量數(shù)據(jù)進(jìn)行學(xué)習(xí)而學(xué)得慢，但對于它們的工作干得非常出色。 但會有陷阱——一旦它們得出結(jié)論，盡然結(jié)論正確，但我們大多無法準(zhǔn)確得知它是如何得出的。 這聽起來并不值得大驚小怪。在機(jī)器學(xué)習(xí)系統(tǒng)中，我們有兩類數(shù)據(jù)——特征和標(biāo)注。特征是系統(tǒng)所觀察到的變量，而標(biāo)注是我們要預(yù)測的量。例如在前面肥胖探測器的例子中，特征是一個(gè)人的體重和身高，而標(biāo)注是超重或健康。對于從圖片上探測癌細(xì)胞來說，特征是幾個(gè)器官的圖像，而標(biāo)注是上述圖像是否有癌細(xì)胞。 這些是癌細(xì)胞算法必須完成的工作。[Image Courtesy: CNN] 機(jī)器學(xué)習(xí)算法解決問題的辦法通常是對每個(gè)特征賦上“加權(quán)值”，求它們的和并最終基于該和的值做出決定。例如，如果叫你預(yù)測蘋果是否變質(zhì)，你可能會去聞蘋果的氣味、看它的顏色，最后去摸它，心理上對每種特征賦上加權(quán)值。 如果蘋果真的腐爛，只看顏色就夠了 計(jì)算機(jī)遵循著類似的高級意識，只不過那些“權(quán)值”是通過使用不同的優(yōu)化技術(shù)通過計(jì)算獲得的。但在深度學(xué)習(xí)中, 我們并不能確定我們想看哪種特征，更別提賦值了。那我們怎辦？我們讓計(jì)算機(jī)自己學(xué)習(xí)最佳特征，然后以最佳方式將其進(jìn)行組合來做出預(yù)測，在某種程度上類似人腦的工作方式。 這種思想產(chǎn)生了令人震驚的結(jié)果，特別是在計(jì)算機(jī)視覺（即研究讓計(jì)算機(jī)理解視覺數(shù)據(jù)），高性能GPU的出現(xiàn)和新穎的結(jié)構(gòu)讓學(xué)習(xí)圖像一級的概念輕而易舉。但要說明一點(diǎn)——我們所說的這些特征，亦即這些算法所學(xué)到的特征 不太直觀，與我們傳統(tǒng)技術(shù)很不一樣。 這些是計(jì)算機(jī)尋找圖像的實(shí)例——從視覺上看它們似乎是在探測形狀，但對于非視覺數(shù)據(jù)來說，情況就不那么直接[Image Courtesy?—?Yann LeCun’s ICML 2013 tutorial] 一般人并不把它當(dāng)回事——那時(shí)在技術(shù)上也不是大不了的問題，用人工智能所做的工作都很具體，如在圖像中識別人和物體, 跟蹤人臉以及生成地址抽樣。于是我們有了一個(gè)很妙的主意來表達(dá)算法所學(xué)的內(nèi)容 (事實(shí)上, 這個(gè)演示是這方面最近發(fā)展情況，相當(dāng)酷)。但當(dāng)我們開始針對有預(yù)測風(fēng)險(xiǎn)的任務(wù)運(yùn)用深度學(xué)習(xí)時(shí)，每次預(yù)測都必須站得住腳。 比喻說你是家銀行，你有所有客戶的交易和信用的歷史記錄。你用復(fù)雜的深度學(xué)習(xí)算法弄清貸款不還者。既然你有龐大的用戶行為模式的數(shù)據(jù)庫，你的算法可能讓你準(zhǔn)確地寫成這項(xiàng)工作，但有種情況除外：一旦你真的懷疑一位未來欠款人，你弄不清到底是什么導(dǎo)致懷疑，從而讓這種預(yù)測判斷更加困難。 大多深度學(xué)習(xí)系統(tǒng)并沒有良好的技術(shù)理解其決策能力，這是目前活躍的研究領(lǐng)域。對于某些特定任務(wù)的深度網(wǎng)絡(luò)，尤其是計(jì)算機(jī)視覺，我們在理解這些系統(tǒng)上有所進(jìn)步——相當(dāng)程度地確定促使算法那樣做的位點(diǎn)。但總的來看，需要做的工作還不少。 機(jī)器學(xué)習(xí)系統(tǒng)有個(gè)嚴(yán)重的障礙——需要手動輸入來讓它們正確地區(qū)分信號與噪音。或者從技術(shù)術(shù)語說, 過度擬合。這個(gè)技術(shù)行話的意思是說，當(dāng)一個(gè)模型必須適合于某個(gè)集合的數(shù)據(jù)時(shí)，要對更新的未知數(shù)據(jù)做出預(yù)測，它會在學(xué)習(xí)中 過于順從它已經(jīng)收集到的數(shù)據(jù)。結(jié)果在現(xiàn)實(shí)世界中應(yīng)用時(shí)不會有良好的表現(xiàn)。 這意味著模型一般會開始搜索存用于算法訓(xùn)練的數(shù)據(jù)而并不存在于現(xiàn)實(shí)世界的模式。有多種方式理解過度擬合，現(xiàn)實(shí)生活中存在一些過度擬合的事例，簡單一例是在你當(dāng)?shù)叵奶鞎r(shí)你把手提箱塞滿了夏天穿的衣服，而在阿姆斯特丹是11度，在那里你會瑟瑟發(fā)抖。 這就是過度擬合的樣子，最后一條曲線發(fā)出噪音。 [Image courtesy?—?StackExchange] 就過度擬合說些題外話是為了強(qiáng)調(diào)機(jī)器學(xué)習(xí)系統(tǒng)責(zé)任的重要性。如果我們無法理解并弄清這些算法在學(xué)什么，我們就無法說出它們是不是過度擬合。這種不良影響的事例還有，比如機(jī)器根據(jù)瀏覽歷史中預(yù)測可疑行為，由于它所看到的大多用戶都是——比方說——來自美國的十九歲的人，于是它的側(cè)重不在來自美國的十九歲的用戶，盡管他們搜索歷史大多有 PewDiePie 視頻。 當(dāng)深度學(xué)習(xí)越來越多地應(yīng)用于艱深的推導(dǎo)工作時(shí)，這種影響會呈指數(shù)增加。例如，我們看到許多研究進(jìn)入到醫(yī)學(xué)圖像預(yù)測，這種應(yīng)用需要承擔(dān)更大責(zé)任。另外，一旦這種預(yù)測規(guī)模大到無法進(jìn)行人工檢驗(yàn)時(shí)，我們需要系統(tǒng)讓我們理解并調(diào)整這些算法所考慮的內(nèi)容。 這種威脅正在來臨，但也成了研究對象，投入的時(shí)間越多，更好的解決方案就更有可能出現(xiàn)。但我們必須認(rèn)識到模型責(zé)任的重要性，尤其是當(dāng)我們開發(fā)讓生活變得更為輕松的新系統(tǒng)時(shí)。我們用一個(gè)例子來結(jié)束談話—— 如果一個(gè)人撞了車，我們會讓他擔(dān)責(zé)并理解事故為什么發(fā)生，可能是酒駕或在給人發(fā)短信。 但如果自動駕駛車撞上另一輛并讓一位乘客致死，誰會擔(dān)責(zé)呢，原因如何？你如何確保下次不會發(fā)生呢？ 這種事故最近已經(jīng)發(fā)生了好幾起 , 隨著更多的系統(tǒng)使用人工智能，會出現(xiàn)更多失誤。要進(jìn)行糾正，我們需要知道錯(cuò)在哪——這是人工智能今天所面臨的主要挑戰(zhàn)。 本文譯者為：kundogma 原文來自：bullshit (mbbeetchina)