在Machine Learning and the Market for Intelligence 2017大會上，“強化學習之父”Richard S. Sutton與美國企業家、風險投資人士Steve Jurvetson進行了關于“為何目標對于智能至關重要”的對談。Sutton表示，創造人工智能就是在創造一種新的人類。我們應對此感到歡欣鼓舞。

在Machine Learning and the Market for Intelligence 2017大會上，艾伯塔大學計算機科學教授Richard S. Sutton與美國企業家、風險投資人士Steve Jurvetson進行了關于“為何目標對于智能至關重要”的對談。

Richard S. Sutton是艾伯塔大學計算科學系的教授兼iCORE主席。在2003年加入艾伯塔大學之前，他曾在美國AT&T公司和GTE實驗室以及馬薩諸塞大學工作。他于1984年獲得馬薩諸塞大學計算機科學博士學位，并于1978年獲得斯坦福大學心理學學士學位。2016年他當選為加拿大皇家學會會員。在艾伯塔大學，Sutton領導了強化學習和人工智能實驗室，是艾伯塔機器情報研究所的首席研究員。

他的研究興趣集中在決策者與環境相互作用所面臨的學習問題上，他認為這是人工智能的核心。他還對動物學習心理學，連接網絡以及不斷改進世界的表征和模型的系統感興趣。Richard Sutton 被認為是強化學習之父。今年6月，Demis Hassabis宣布Richard Sutton將聯合領導一個位于加拿大的DeepMind辦公室，同時在艾伯塔大學保留他的教授職位。

Q：AI以人類為中心？或是一個完全不同的物種（對人類生存具有攻擊性和毀滅性）？(human-centric or alien AI)

A：我想提出一種觀點，AI比我們想得更加以人類為中心。通常的觀點都是認為AI與人類相對立，機器會淘汰人類。但這僅是一家之言，因此我提出另一種觀點來平衡上述觀點。先從“人工智能”這個名字說起。這個名字暗示著這是一種和人類智能不同的智能，是人造的智能。但首先我們要定義這是一種與人類相似的智能。所以從定義來看，AI是以人類為中心的。因此，也許我們不該把它叫做“人工智能”，我們應該直接叫它“智能”。現在人們都把AI看作是一種工程上的存在，不是一種類人的存在。但我認為，在當今很多領域，AI都是以人類為中心的。比如機器翻譯就是關于人的溝通。因此，AI實際上是在增強 (enhancing) 人類，這也是AI具有重要商業意義的原因。AI不是在完虐人類，而是在增強人類。

Q：這聽起來很像是人類的感知，視覺、觸覺、聽覺乃至嗅覺都已經通過模擬的方式被使用了。這意味，我們可以了解經過刻意訓練的輸入輸出。但我們真的了解內在原理嗎？

A：這同樣涉及到人類。人類也有神經網絡，用來形成反射、反應、直覺等。我們不了解人類是如何做到這些的，但我們就是相信。人們為什么相信司機、飛機駕駛員？為什么相信那些做重要商業決策的人？這個道理同樣適用于機器。從宇宙范圍來看，人類就是一種地球上能夠發明工具的動物。歷史上，人類通過發明工具、創造技術來增強自身。比如，鉛筆、眼鏡這些都是異常強大的工具。而且語言本身就是最重要的工具。我們用眼鏡增強自己。我們通過語言來更好地交流合作。所以，人類通過創造工具來過得更好。這和AI沒什么差別。無法將人類與技術割裂開來。

Q：你是否相信，有一天自主代理機器人情感系統將成為通往通用人工智能的一步？

A：我認為預測是一個很微妙復雜的事情。作為普通人，預測能使人作出更好的決策。但AI超越了這一點。AI將決策、目標和預測整合在一起。就像養育孩子一樣，孩子是自主的，他們的目標并不在家長的掌控之下。我的專長是建立一個類似的情感系統，有絕對的自主權和決策權。

Q：你提到了好幾次“目標”。看起來這是一個關鍵因素。你認為這是一個通向更高智力水平的路徑嗎？

A：是的。我們要有更多、更抽象的目標。但不能光有目標，而沒有實現目標的系統。

“目標”是一個簡單的詞，但你很可能會被誤導。處理方法是去找一些更長的詞組，例如“尋找目標”、“目標性”等。“目標”對于智能來說是至關重要的。假設有一個非常聰明的存在能夠進行預測，它有一個想達成的目標。它就能根據目標采取行動。

另外，我還想談一下人們對AI的擔憂。有很多報道都將AI和人類對立起來，認為我們終將被淘汰。這種想法是錯誤的。在我看來，AI將增強人類，它將淘汰的是人類的“舊我”（former selves）。但我承認的確存在這種將AI與人類對立起來的趨勢。我認為這都是“人工智能”這個名字惹的禍。這讓AI聽起來很像外星人。

我想說的是，我們正在設計創造一種全新的人類。我們將要創造一種新的存在，可能和人類的膚色、宗教略有不同。人類對此感到恐懼，這是正常的。人們總是對與自己不同的事物心生恐懼。Alpha Go是一個很好的例子。在西方，很多人認為它是與人類相對的機器。但在圍棋社區里，有人認為它是一個神奇的機器，能夠很好地去理解圍棋，與人們一道加入對于圍棋這項優雅游戲的無限探索之中。因此，我認為我們需要學會來歡迎AI這種不同類型的“人”。它具有如此多的多樣性，我們為何不歡呼慶祝？

Q：我們想聽聽您評價AlphaGo Zero。問題是，扔掉人類的訓練數據集似乎是創造更好的產品的一個方式，這如何適用于這種框架？

A：我們需要可擴展的方法。現在沒有人這么做，這讓我很吃驚，沒有人展示計算機計算能力的指數級增長。你知道，現在這有一點mundane，但是這是一個復雜的效果，我們很難去意識到，我們需要可以擴展的方法和強大的計算力。我的意思是不僅要擴展問題的大小，還有隨著計算力一起擴展，你的計算能力越強，你的系統效果就越好。所以，如果你是從人類的數據庫中進行學習，那么很快，訓練數據集很快就會成為你的瓶頸。

Q：早期在計算機國際象棋上的研究發現，最高段的棋手+計算機的組合，并沒有直接使計算機能力更強？最新的AlphaGo Zero，如果我沒有理解錯，也是沒有進入人類訓練這一循環，只需要與其他的計算機進行對抗學習。從哲學上說，這跟您剛才所提到的以人類為中心（huaman centric approach）似乎是完全相反的？

A：其實不是的。作為人類，我們并不只是在學校才會學習。我們從很小的時候就開始學習，甚至在還沒開始說話前，我們就開始學習。我們通過試錯進行學習。

接下來我要談一談強化學習，這是我所擅長的專業領域，也是我最喜歡的一種“學習”。強化學習就是在試錯中進行學習，這種試錯中使用的是“自學習”的方法，你需要在很多很多的對局中進行嘗試。所以，這并不是從人身上進行學習，而是以人類學習的方式進行學習。這和人類很像，就是從不斷的嘗試中進行學習。

確實，在游戲的對弈中，你可以進行無數次的嘗試，這一方法（AlphaGo Zero）確實利用了這一點。但是，試錯這一想法本身并不要求有模擬。

我還要補充一點，博弈是很特殊的，因為我們知道游戲的規則，我們可以分解它讓后知道其運行的規則是什么。我們知道桌上的花瓶可能會掉到地上，因為我們知道物理理論，知道物體移動的方式，所以我們需要制定計劃。

正如AlphaGo要用到現實世界，你需要用現實世界的規則來替代圍棋的規則，比如，物理定律是什么、很重要的是，物理定律很多都是直覺性的，比如，我打了我朋友一拳，他可能會還回來。這可能不是物理定理，比如如果我尖叫，那么我的保鏢可能會過來提供幫助。

所以，我們需要了解世界的運行方式，我們需要制定計劃。在象棋、圍棋和撲克中，我們可能不能計劃得那么好。