AI系統的工作原理是什么？它與人類認知的聯系和區別有哪些？它如何改變科學研究的方式？研究人類認知如何幫助研究人員改進AI系統？就這些相關問題，美國心理學會（American Psychological Association）就此采訪了普林斯頓大學心理學和計算機科學教授兼計算認知科學實驗室主任湯姆·格里菲斯（Tom Griffiths），向其提出了10個問題。元戰略梳理訪談紀要重點內容，探討人類認知如何幫助我們制造更好的AI系統。

#1人類比AI更擅長什么？AI在哪些方面做得比我們更好？

人類是生物有機體，壽命、大腦的計算量、交流能力都有限，我們必須通過語言才能把大腦里的信息傳遞給另外一個人，而AI系統則沒有這些限制，AI系統可以從海量數據中學習。我們現在使用的許多AI系統都是在相當于人類一生的數據量的基礎上訓練出來的。我們可以制造越來越大的計算機，還可以通過并行計算，從而提高這些AI系統可以訪問的計算量。AI系統可以把一個系統學到的東西直接復制到另一個系統中，這樣就可以直接傳輸信息，這些差異實際上決定了人類擅長的一些事情和AI系統擅長的一些事情。因此，我們有限的生命意味著我們必須能夠從少量數據中學習，而這正是AI系統目前并不擅長的。我們的計算資源有限，意味著我們必須善于高效地利用我們的大腦，而這對AI系統來說仍是一項挑戰。我們的交流能力有限，意味著我們需要找到合作的方式，以便能夠集中我們所擁有的數據或計算資源，來完成人類無法獨立完成的事情，如創造語言、相互教學、傳播文化等，所有這些仍然只有人類才能完成。

#2AI系統與人類大腦的工作方式有多相似？又有什么不同？

思考這個問題有兩種視角。一種是，某個AI系統經過訓練后產生的行為與人類的行為相比有什么不同？另一種是，這個AI系統是如何學習的？它是如何從數據中學習到某一點的？第二個問題比較容易回答，因為這些AI系統需要比人類獲得更多的數據，才能達到人類5、6歲時所達到的水平。因此，對于學習而言，很顯然，AI系統學習語言的方式必須與人類有所不同。至于這些系統是如何工作的，以及它們所做的事情是否與人們大腦中發生的事情相似，這仍然是人們正在努力解決的問題。有很多學術論文都顯示，這些系統中的表征可以預測人們大腦中正在發生的事情。還有很多論文在探究這些系統的行為，研究當AI系統受到相同的刺激時，它們是否會做出與人類相同的行為。

#3人類在哪些方面不了解AI系統的工作原理？

我們重點關注“一致性”問題，即AI系統思考和表征世界的方式與人類相比，有多大的一致性？我們需要做的是進行更多的研究，找出AI系統擅長的事情，并幫助人們了解在哪些情況下可以與這些AI系統進行互動。例如，我們可以要求ChatGPT估算不同事物之間的相似度，如兩種顏色有多相似，音符有多相似，兩種口味有多相似等等。我們發現ChatGPT對顏色和音符等事物的表征非常準確，與人類思考這些事物的方式非常相似。但它對味道的表征卻與人類的表征大相徑庭。因此，這就告訴我們，如果要向ChatGPT尋求建議，向它尋求關于服裝搭配的相關建議可能會不錯，但向它尋求關于食譜的建議可能會不佳。

#4在開發AI的過程中，心理學應該扮演什么角色？

現在是什么角色，未來又應該是什么角色？

我們可以從兩個方面來思考心理學和AI之間的關系，我們可以把它看作是，信息可以從心理學流向AI，以及從AI流向心理學這兩個方向。因此，從心理學到AI，我們可以做的事情之一是使用我們為理解人類行為而開發的工具包，來真正理解這些AI系統到底在做什么，它們知道什么，以及它們與人類所做事情的對應程度。心理學家們擅長利用正在做各種復雜事情的AI系統，并利用它們的行為、設計實驗，以揭示人類大腦中可能發生的事情，計算機電路中可能發生的事情，從而告訴我們這些AI系統的工作原理。從另一個方面來看，從AI到心理學，我們可以從AI系統使用的模型中獲得各種關于人類思維如何運作的有趣假設，以及探索人類行為。我們還能獲得新的工具，用來以不同的方式進行科學研究。因此，可以利用這些AI系統來設計新的實驗，或建立比心理學家自己建立的模型或理論更好的模型。

#5你的研究工作是建立人類認知的數學模型，如何用數學術語描述人類思維？

我的研究工作會重點關注，人類思維需要解決哪些計算問題？這就意味著，當你早上起床時，你要為一天的生活做出一系列決定，這就是一種計算問題，也是一種決策問題。你必須確定做事情的先后順序，這就是計算機科學家所說的“規劃”問題。因此，我們要做的就是處理這些計算問題，然后思考什么才是解決這些問題的好方法。數學告訴我們，解決這些問題的理想方法是什么，然后再利用這些數學知識，嘗試去理解人類的行為。我們是否可以通過解決“規劃”問題的數學方法來解釋人們所使用的規劃策略。人們學習概念的方式是否與統計學中關于如何利用數據更新信念的數學知識一致？我們可以借鑒一套數學原理，用來回溯和理解人類行為到底是怎么回事。

#6鑒于AI系統能夠綜合大量數據，它如何改變科學研究的方式？

隨著數據量的增加，特別是在心理學領域，我們所掌握的有關人類行為的數據量也在增加，有可能會超出人類所能思考的范圍。因此，這就為我們創造了一個機會，利用AI系統來增強人類處理這些數據的能力，從而提出新的方法來理解這些數據，發展出新的有意義的科學理論。為此，我們的實驗室已經開始探索如何在心理學研究中使用這些方法，可以通過建立一個機器學習模型，并使其與數據相匹配，讓機器學習模型從行為數據中做出最好的預測。然后，我們可以將機器學習模型的預測結果與人類科學家開發的理論預測結果進行比較。實際上，我們可以利用機器學習模型的輸出結果，回過頭來批判我們的心理學理論，并提出更好的理論。因此，我們把這稱為“科學遺憾最小化”，這就是一種策略。我們還可以做的另一件事是，使用機器學習模型來幫助我們搜索理論空間。因此，我們可以定義一套理論，并通過機器學習模型在這些理論的空間內進行搜索，以提出能解釋數據的最佳理論，這樣一來，我們就有了一個工具，可以用來處理比以前大得多的數據集。

#7計算機思維如何幫助我們解決問題？

計算機科學家對這個問題進行了廣泛的研究，它被稱為“探索-利用”權衡，即通過探索新事物，還是利用已掌握的知識來解決問題。事實上，只要有一個已知的最佳解決方案，就可以不用考慮和擔心到底需要做什么。因此，對于那些花很多時間思考決策的人來說，知道自己可以遵循最佳策略會讓他們稍感輕松。另一個好消息是，人類的直覺在解決這些問題方面都十分擅長，因此，即使沒有遵循最優策略，我們也可能在做一些非常明智的事情，通過研究人類所做的這些明智的事情，我們可以找出更好的算法，并讓計算機解決這類問題。

#8我們能夠制造出具有自我意識的AI系統嗎？

事實上我并不經常思考這個問題，因為我不確定這對我們處理這些AI系統的方式、我們與它們的互動或我們思考問題的方式有什么不同。所以我們不應該期望AI系統像人一樣，原因是人類認知的約束條件與AI設計環境的約束條件是不同的，人類是一個智能特例，我們的壽命、計算量和溝通都十分有限。因此，將這些限制條件去掉之后就會得到能夠解決問題的智能系統，但它們解決問題的方式不一定像人類。當AlphaGo誕生時，這個能在圍棋比賽中擊敗世界上最優秀人類棋手的AI系統，能比人類規劃得更遠，它能規劃出未來的很多很多步。而人類只能在有限的時間或范圍內進行規劃，所以我們會做一些事情，比如設定目標和子目標，以及分層思考和分解問題，這都是因為我們認知中的這些限制。而如果消除了這種限制，就可以通過制定更多規劃來解決問題，這就是AI系統所處的世界。它們能夠為我們試圖解決的問題找到不同的解決方案，因為它們不是在相同的約束條件下運行的。因此，很多我們認為是智能特征的東西，其實是人類大腦必須解決的計算問題的特征。我們與AI系統是不同類型的智能系統，我們必須建立自己新的內部認知模型，以了解這些AI系統是什么樣的，以及與它們之間的互動是什么樣的，而不能指望它們像人類一樣。

#9AI系統在未來幾年將如何改變我們的生活？

現在有很多關于AI搶走工作、也許會毀滅世界的悲觀言論，這非常合理。例如，AI系統代表了什么人，AI系統訓練的數據集代表了什么人，以及AI系統對我們社會的權力產生了什么后果等等都是令人擔憂的問題。與此同時，我們應該樂觀地看待這類AI系統可能帶來的積極影響。例如，自從AlphaGo問世以來，我與合作者們一直在分析圍棋比賽，在這項工作中，我們實際上發現，人類圍棋選手的創造力是通過他們所走棋步的新穎性來衡量的，而AI系統的出現使得他們的創造力得到了提高。因此，我們期待能夠找到一種方法，與這些AI系統互動，與它們共存，并將它們融入我們的生活，以此讓我們實現更多的成就。

#10你現在研究的重點是什么，想要回答的主要問題是什么？

我們關注的很多問題很多都是關于人類特有的智力方面的問題。因此，我們做了大量工作，試圖了解人類如何能夠從少量數據中學習，并將這些能力應用到機器中。我們研究人們是如何高效地決定如何使用自己的認知資源的？同樣，這也為我們解決規劃等問題的算法提供參考。此外，人類是如何通過相互影響來實現超越個體能力的目標的？這一點對于我們融入人類世界非常重要，這些互動不僅僅包括人類之間的互動，還包括與其他類型的智能系統間的互動，我們的研究試圖理解如何能夠構建這些互動，以及在與AI系統共同邁向未來的過程中，人類如何能夠充分利用我們的AI合作伙伴。