越來越多的人工智能（AI）投入實際應(yīng)用，包括在線客服、網(wǎng)絡(luò)搜尋、甚至臉書上的訊息呈現(xiàn)，背后其實都是靠強大的算法執(zhí)行。只不過，AI本身的局限性，也將在投入應(yīng)用越來越明顯，這也將是決定AI乃至于人類生活能否持續(xù)進步的一大關(guān)鍵。

在AI領(lǐng)域中，引領(lǐng)風(fēng)騷的不只是掌握用戶數(shù)據(jù)、用戶數(shù)量龐大的科技巨人，從生產(chǎn)制造端切入，在某個特定產(chǎn)業(yè)稱王的也大有人在。日本的Preferred Networks（PFN）就是最好的例子。

2014年創(chuàng)業(yè)的PFN，可以說是不折不扣的新創(chuàng)獨角獸。他們專精的領(lǐng)域，是把深度學(xué)習(xí)（Deep Learning）技術(shù)導(dǎo)入在產(chǎn)業(yè)應(yīng)用上，目前在三大應(yīng)用領(lǐng)域：運輸、制造生產(chǎn)以及醫(yī)療上，都與日本的一級大廠進行合作研發(fā)，例如從創(chuàng)業(yè)開始，PFN就與豐田汽車一起投入自駕車技術(shù)，去年（2017）七月更與日本國家癌癥中心合作，建構(gòu)癌癥的早期血液診斷系統(tǒng)。

在PFN看來，深度學(xué)習(xí)的本質(zhì)，其實就是建構(gòu)統(tǒng)計性的預(yù)測模型。PFN Fellow丸山宏形容，深度學(xué)習(xí)具備大量的參數(shù)，經(jīng)過多次的反復(fù)操作后，可以形成任何多維、非線性的函數(shù)系統(tǒng)，逼近人類的思考模式，可以大幅提升預(yù)測的準(zhǔn)確度。

機器學(xué)習(xí)本質(zhì)，不脫統(tǒng)計歸納分析

這種預(yù)測模型該如何建立？以國際兩大溫度單位：攝氏（℃）與華氏（℉）的對應(yīng)關(guān)系為例，從人類的觀點看，因為已經(jīng)有一套標(biāo)準(zhǔn)的換算公式，丸山宏解釋，對于任何一個給定的華氏溫度，只要套入公式運算，就能得出相對應(yīng)、即使測量也不會出錯的攝氏溫度；但對于機器來說，如果這套換算公式并不存在，就只能靠長期觀測、記錄攝氏與華氏兩套溫度數(shù)據(jù)，再對這些數(shù)據(jù)進行分析，慢慢推導(dǎo)出兩者之間的對應(yīng)關(guān)系（圖1）。

圖1：使用觀測數(shù)據(jù)進行訓(xùn)練，使機器學(xué)習(xí)溫度單位換算的方法

數(shù)據(jù)源：https://www.slideshare.net/pfi/20171201-dll05-pfnhiroshimaruyama

因為機器學(xué)習(xí)的對象只有被給定的參數(shù)，不論給定的參數(shù)再多、數(shù)據(jù)的規(guī)模再大，得出的僅是「近似」結(jié)果。丸山宏指出，歸納法的限制之一，就是只能根據(jù)過去的歷史資料預(yù)測未來；但如果未來出現(xiàn)不可知或根本無法預(yù)測的意外，任何AI技術(shù)都無法得出對的結(jié)果。此外，機器學(xué)習(xí)所處理的參數(shù)，多半都被嚴(yán)格定義過，如果此時出現(xiàn)了與眾不同的參數(shù)，也就是訓(xùn)練數(shù)據(jù)中未曾出現(xiàn)的稀有事件，系統(tǒng)對其也無能為力。“機器學(xué)習(xí)或者AI，還是跟人腦不一樣，”丸山宏指出，“它不會靈光乍現(xiàn)，也不會進行臨機應(yīng)變的處理，更難以避免偏誤的發(fā)生。”

技術(shù)面以外，關(guān)于AI另一個更嚴(yán)肅的議題，可能發(fā)生在應(yīng)用場域上。丸山宏解釋，在自動駕駛上，現(xiàn)在PFN的技術(shù)，已經(jīng)達到可以同時控制多部車輛依其規(guī)劃路線行駛，又不至于出現(xiàn)壅塞。“在這輛紅色汽車上，我們的算法更可以設(shè)定所有車輛一碰到他就得轉(zhuǎn)彎或減速，降低車禍發(fā)生率。”這套系統(tǒng)明明運作地相當(dāng)完美，但丸山宏卻提出另一個尖銳問題：這輛紅色汽車的“安全系數(shù)”該拉到多高？

AI的應(yīng)用，仍然有其局限性

圖2：Preferred Networks開發(fā)的分布式自動駕駛系統(tǒng)

圖片來源：Preferred Networks

他補充，一般人可能認(rèn)為，為了避免發(fā)生危難，安全系數(shù)當(dāng)然越高越好，“可是我們發(fā)現(xiàn)，當(dāng)這輛紅色車的安全系數(shù)不斷提高、其他車輛在這個參數(shù)環(huán)境下不斷學(xué)習(xí)之后，居然都靜止不動了！”丸山宏解釋，正因為其他車輛被訓(xùn)練的內(nèi)容是“絕對不能碰到紅色車”，而只要一開動就會有碰撞的風(fēng)險，所以才出現(xiàn)全部靜止的結(jié)果。只不過，這樣一來交通系統(tǒng)也跟癱瘓無異了。

因為機器只能在被給定的參數(shù)框架內(nèi)思考，如果人們給予的指令過于簡化，在實際生活中恐怕會出現(xiàn)難以預(yù)料的結(jié)果。他舉例，“好比你今天命令機器人去星巴克幫你買杯咖啡，如果指令內(nèi)容只是『把咖啡拿過來』，那么機器人的行動，可能是到星巴克，把排隊的其他客人都打開推開甚至殺死，再把咖啡拿給你。”

AI跟人類一樣并非萬能，類似這樣的“框架問題（Frame Problem）”，是人工智能領(lǐng)域中困擾許久卻尚未解決的問題。隨著這項技術(shù)逐漸被人類社會所使用，我們一方面固然可以因為生活更加方便而欣喜，但更要謹(jǐn)記的是必須以謹(jǐn)慎、注意的態(tài)度來使用這些科技，才不會制造更多無解的難題。

責(zé)任編輯：ct