李飛飛帶領(lǐng)的斯坦福“以人為本AI研究院”發(fā)表文章，探討人工智能、神經(jīng)科學(xué)、心理學(xué)和認(rèn)知科學(xué)，以及數(shù)學(xué)、物理和社會(huì)科學(xué)等學(xué)科過去是怎樣、以及未來將如何共同合作，追求對理解和創(chuàng)造智能系統(tǒng)的探索。

最初的類人智能出現(xiàn)在幾百萬年前的非洲大陸，并持續(xù)進(jìn)化，最終在大約 10 萬年前，在我們?nèi)祟愡@一物種——智人的大腦中達(dá)到頂峰。

作為現(xiàn)代人類，我們只能想象我們遠(yuǎn)古的祖先凝視夜空，思考物質(zhì)現(xiàn)實(shí)的本質(zhì)，內(nèi)省地窺視自己的內(nèi)心，思考自己的心理現(xiàn)實(shí)本質(zhì)時(shí)的感受。

在過去幾百年里，我們?nèi)祟愅ㄟ^發(fā)現(xiàn)控制空間、時(shí)間、物質(zhì)和能量行為的基本數(shù)學(xué)規(guī)律，在對物理現(xiàn)實(shí) (physical reality)的精確理解方面取得了巨大的智力進(jìn)步。這些基本數(shù)學(xué)規(guī)律現(xiàn)在被編纂在量子力學(xué)和廣義相對論的大框架中。

然而，在探索心理現(xiàn)實(shí) (mental reality)本質(zhì)方面，我們?nèi)詣倓傞_始。特別是，人類智能是如何從由 1000 億個(gè)神經(jīng)元通過 100 萬億個(gè)突觸連接而成的生物有機(jī)體中產(chǎn)生的？

神經(jīng)科學(xué)、心理學(xué)和認(rèn)知科學(xué)等現(xiàn)代學(xué)科在過去 100 年里取得了許多重要進(jìn)展，為攻克這個(gè)大問題奠定了基礎(chǔ)。事實(shí)上，正如奧巴馬在 2013 年宣布美國大腦計(jì)劃 (United States Brain Initiative) 時(shí)所解釋的那樣，“揭開我們兩耳之間三磅重物質(zhì)之謎”的時(shí)機(jī)已經(jīng)成熟。

但是，當(dāng)涉及到我們自己的心智能力時(shí)，對于現(xiàn)代人來說，僅僅理解它們是不夠的。我們也非常希望在無生命的系統(tǒng)中重建這些能力，這些系統(tǒng)有時(shí)是以我們自己的形象為基礎(chǔ)構(gòu)建的。

從本質(zhì)上說，人類作為進(jìn)化的產(chǎn)物，有時(shí)渴望扮演創(chuàng)造者的角色。從瑪麗 · 雪萊的《弗蘭肯斯坦》到艾薩克 · 阿西莫夫的《我，機(jī)器人》，這種渴望滲透在人類文學(xué)作品中。

事實(shí)上，人工智能 (AI) 這一新興領(lǐng)域，經(jīng)常與神經(jīng)科學(xué)、心理學(xué)和認(rèn)知科學(xué)領(lǐng)域合作，在創(chuàng)造具有某些類人能力的機(jī)器方面取得了巨大進(jìn)展。在這篇文章里，我將進(jìn)一步探討人工智能、神經(jīng)科學(xué)、心理學(xué)和認(rèn)知科學(xué)，以及數(shù)學(xué)、物理和社會(huì)科學(xué)等學(xué)科過去是怎樣、以及未來如何共同合作，追求交織在一起的對理解和創(chuàng)造智能系統(tǒng)的探索。

生物智能與人工智能之間的合作

在過去的 60 多年里，AI 深受神經(jīng)科學(xué)和心理學(xué)的影響，并且確實(shí)受到神經(jīng)科學(xué)和心理學(xué)的啟發(fā)。早期，許多 AI 從業(yè)者在神經(jīng)科學(xué)和心理學(xué)方面做了一些很好的研究。這里我列舉了神經(jīng)科學(xué)、心理學(xué)和人工智能之間相互影響的一些事實(shí)：

由相對簡單的元素 (神經(jīng)元) 組成的分布式網(wǎng)絡(luò)，能夠完成源自神經(jīng)科學(xué)、如今以神經(jīng)網(wǎng)絡(luò)形式滲透到現(xiàn)代人工智能系統(tǒng)中的人類智能的驚人計(jì)算。這一觀點(diǎn)并不總是顯而易見的，直到大約一百年前，在高爾基和卡哈爾之間著名的辯論之后，這一觀點(diǎn)才變得堅(jiān)定起來。

各種降維技術(shù)，包括多維尺度和因子分析，最初是在心理測量學(xué)研究的背景下發(fā)展起來的。

著名神經(jīng)學(xué)家赫拉斯 · 巴洛 (Horace Barlow) 提出了分解代碼的思想，這一思想反過來又啟發(fā)了獨(dú)立分量分析 (ICA) 和當(dāng)前的 AI 研究，旨在解開數(shù)據(jù)變異的獨(dú)立因素。

托爾曼對認(rèn)知地圖的研究提供了證據(jù)，證明即使是老鼠也能形成對世界的心理模型，并能利用這些模型進(jìn)行規(guī)劃和導(dǎo)航。這鞏固了內(nèi)部模型形成是動(dòng)物智能的關(guān)鍵組成部分這一觀點(diǎn)，這是目前人工智能研究的前沿。

Hopfield network 是理論神經(jīng)科學(xué)的一個(gè)模型，為思考分布式、結(jié)合存儲(chǔ)的存儲(chǔ)器和檢索提供了一個(gè)統(tǒng)一的框架，也啟發(fā)了玻耳茲曼機(jī)，這反過來又為證明深度神經(jīng)網(wǎng)絡(luò)模型的成功提供了關(guān)鍵的一步，并啟發(fā)了許多弱約束的分布式滿足作為 AI 計(jì)算模型的想法。

目前主宰機(jī)器視覺的深層卷積網(wǎng)絡(luò)的關(guān)鍵組成部分直接受到大腦的啟發(fā)。這些成分包括腹側(cè)流的分層視覺處理，表明深度的重要性；視網(wǎng)膜拓?fù)溆成?(retinotopy) 作為整個(gè)視覺皮層的組織原理的發(fā)現(xiàn)，啟發(fā)了卷積；簡單和復(fù)雜的細(xì)胞的發(fā)現(xiàn)，啟發(fā)了如最大池化等操作；以及皮層內(nèi)神經(jīng)歸一化的發(fā)現(xiàn)，推動(dòng)了人工網(wǎng)絡(luò)中的各種歸一化階段。

將稀疏編碼作為理解初級視覺皮層中定向邊緣檢測器起源的一種嘗試而進(jìn)行的開創(chuàng)性工作，這啟發(fā)了將稀疏編碼作為現(xiàn)代人工智能系統(tǒng)的基本構(gòu)建塊。

像時(shí)序差分學(xué)習(xí) (temporal difference learning) 這樣的算法，現(xiàn)在已經(jīng)成為強(qiáng)化學(xué)習(xí)的基礎(chǔ)，其靈感來源于經(jīng)典條件反射的動(dòng)物實(shí)驗(yàn)。

反過來，強(qiáng)化學(xué)習(xí)對基底神經(jīng)節(jié)手術(shù)的解釋產(chǎn)生了巨大的影響，其中多巴胺能神經(jīng)元為基底神經(jīng)節(jié)提供了非常重要的獎(jiǎng)勵(lì)預(yù)測誤差信號，該信號驅(qū)動(dòng)了許多強(qiáng)化學(xué)習(xí)算法中的學(xué)習(xí)。

大腦中記憶系統(tǒng)的模塊化啟發(fā)了現(xiàn)代記憶神經(jīng)網(wǎng)絡(luò)，它在一定程度上將存儲(chǔ)器存儲(chǔ)和決定何時(shí)從存儲(chǔ)器中讀寫的執(zhí)行控制電路的操作分開。

人類注意力系統(tǒng)激發(fā)了注意力神經(jīng)網(wǎng)絡(luò)，這些神經(jīng)網(wǎng)絡(luò)可以被訓(xùn)練來動(dòng)態(tài)地關(guān)注或忽略其狀態(tài)和輸入的不同方面，以進(jìn)行未來的計(jì)算決策。

形式生成語法在語言學(xué)和認(rèn)知科學(xué)中的發(fā)展，導(dǎo)致了概率語法和句法分析在 CS 和 AI 領(lǐng)域的發(fā)展。

像 dropout 這樣的現(xiàn)代正則化技術(shù)受到神經(jīng)動(dòng)力學(xué)內(nèi)在隨機(jī)性的啟發(fā)。

人工智能未來的生物學(xué)啟示

盡管目前人工智能系統(tǒng)在有監(jiān)督的模式識(shí)別任務(wù)上已經(jīng)取得了巨大的商業(yè)成功，但在模仿真正的人類智能方面，我們還有很長的路要走。在這里，我概述了生物和人工智能領(lǐng)域可以攜手前進(jìn)的一些方向。

生物學(xué)上合理的信用分配

信用分配問題可能是神經(jīng)科學(xué)和人工智能領(lǐng)域最大的開放性問題之一。夸張點(diǎn)說，假設(shè)你正在打網(wǎng)球，你的一個(gè)擊球失誤了。這應(yīng)該責(zé)怪你的 100 萬億個(gè)突觸中的哪一個(gè)？大腦是如何在你的運(yùn)動(dòng)系統(tǒng)中找到正確的突觸組并糾正它，尤其是當(dāng)錯(cuò)誤發(fā)生幾百毫秒內(nèi)通過視覺系統(tǒng)傳遞的時(shí)候?

在人工智能中，這種信用分配問題在很多情況下是通過錯(cuò)誤的反向傳播，通過多層計(jì)算來解決的。然而，目前還不清楚大腦是如何解決這個(gè)問題的。我們只知道，大腦使用一個(gè)局部學(xué)習(xí)規(guī)則 (local learning rule)：即每個(gè)突觸僅使用實(shí)際可用的信息來調(diào)整強(qiáng)度，例如由突觸連接的兩個(gè)神經(jīng)元的電活動(dòng)，附近其他突觸的強(qiáng)度，以及反映獎(jiǎng)勵(lì)和錯(cuò)誤的任何神經(jīng)調(diào)節(jié)輸入。

闡明這些局部突觸規(guī)則是什么、以及它們?nèi)绾喂ぷ鳎赡軙?huì)對 AI 產(chǎn)生重大影響，使得在神經(jīng)形態(tài)芯片上實(shí)現(xiàn)并行學(xué)習(xí)成為可能，從而避免反向傳播的通信開銷。

但更普遍的情況是，找到一個(gè)困擾神經(jīng)科學(xué)和人工智能的常見未解問題，應(yīng)該會(huì)促使研究取得進(jìn)展，通過將生理學(xué)家、計(jì)算神經(jīng)科學(xué)家和人工智能研究者聚集在一起，共同解決生物學(xué)上合理的信用分配問題。要成功應(yīng)對這一重大挑戰(zhàn)，可能需要將實(shí)驗(yàn)知識(shí)、理論和工程技術(shù)結(jié)合起來。

整合突觸的復(fù)雜性

生物神經(jīng)模型和人工神經(jīng)模型之間的一個(gè)主要區(qū)別在于我們模擬連接神經(jīng)元的突觸的方式。在人工神經(jīng)網(wǎng)絡(luò)中，突觸是由單個(gè)標(biāo)量值來模擬的，這個(gè)標(biāo)量值反映了一個(gè)乘法增益因子，它轉(zhuǎn)換了突觸前神經(jīng)元的輸入如何影響突觸后神經(jīng)元的輸出。

相比之下，每個(gè)生物突觸內(nèi)都隱藏著極其復(fù)雜的分子信號通路。例如，海馬突觸隱藏在我們對最近事件的記憶之下，每個(gè)突觸都包含一個(gè)由數(shù)百種不同類型分子組成的化學(xué)反應(yīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)能夠?qū)崿F(xiàn)具有復(fù)雜時(shí)間處理能力的整個(gè)動(dòng)力系統(tǒng)。

看到這樣的復(fù)雜性，理論家或工程師可能會(huì)傾向于簡單地忽略它，認(rèn)為它是進(jìn)化過程中偶然產(chǎn)生的生物混亂。然而，理論研究表明，這種突觸復(fù)雜性可能確實(shí)對學(xué)習(xí)和記憶至關(guān)重要。

更普遍的情況是，我們目前的 AI 系統(tǒng)很可能忽略了生物突觸的動(dòng)態(tài)復(fù)雜性，僅僅關(guān)注表格上體現(xiàn)的性能提升。正如我們在網(wǎng)絡(luò)中增加了空間深度來實(shí)現(xiàn)復(fù)雜的層次表示一樣，我們也可能需要在突觸中增加動(dòng)態(tài)深度來實(shí)現(xiàn)復(fù)雜的時(shí)間學(xué)習(xí)能力。

單個(gè)突觸內(nèi)的復(fù)雜分子狀態(tài)有助于學(xué)習(xí)和記憶。(參考：A memory frontier for complex synapses.)

從系統(tǒng)級模塊化大腦架構(gòu)中獲取線索

通常，當(dāng)前的商業(yè) AI 系統(tǒng)涉及的訓(xùn)練網(wǎng)絡(luò)具有相對同質(zhì)的分層結(jié)構(gòu)或從隨機(jī)權(quán)重表開始的遞歸結(jié)構(gòu)。然而，對于更復(fù)雜的任務(wù)來說，這可能是一個(gè)很難解決的問題。

事實(shí)上，生物進(jìn)化走的道路截然不同。所有脊椎動(dòng)物最后的共同祖先生活在 5 億年前。從那以后，它的原始大腦一直在進(jìn)化，形成了大約 1 億年前的哺乳動(dòng)物大腦，和大約幾百萬年前的人類大腦。這種不間斷的進(jìn)化鏈導(dǎo)致了復(fù)雜的大腦結(jié)構(gòu)和高度保守的計(jì)算元素，以及巨大的系統(tǒng)級模塊化。

事實(shí)上，我們目前缺乏任何工程設(shè)計(jì)原理能解釋像大腦這樣復(fù)雜的傳感、通信、控制和記憶網(wǎng)絡(luò)如何在 5 億多年的時(shí)間里不斷地?cái)U(kuò)大規(guī)模和復(fù)雜性，同時(shí)又不會(huì)失去在動(dòng)態(tài)環(huán)境中自適應(yīng)運(yùn)作的能力。因此，AI 從大腦的系統(tǒng)級結(jié)構(gòu)中獲取線索可能非常有趣。

一個(gè)關(guān)鍵的系統(tǒng)特性是功能和解剖層次上的模塊化。大腦并不像我們目前的 AI 架構(gòu)一樣是同質(zhì)的，而是有不同的模塊，比如海馬體 (用于輔助情景記憶和導(dǎo)航)、基底神經(jīng)節(jié)(基礎(chǔ)強(qiáng)化學(xué)習(xí)和行為選擇) 和小腦(運(yùn)動(dòng)控制和更高層次的認(rèn)知)。

此外，人腦中的記憶系統(tǒng) (習(xí)慣性記憶、運(yùn)動(dòng)技能、短期記憶、長期記憶、情景記憶、語義記憶) 在功能上也是模塊化的；不同的患者可能在一種記憶上有缺陷，而在另一種記憶上沒有缺陷。

又如，在運(yùn)動(dòng)系統(tǒng)中，嵌套反饋回路結(jié)構(gòu)占主導(dǎo)地位，簡單的快速回路通過脊髓在 20 毫秒內(nèi)就能實(shí)現(xiàn)自動(dòng)運(yùn)動(dòng)校正，稍慢的智能回路通過運(yùn)動(dòng)皮層在 50 毫秒內(nèi)能實(shí)現(xiàn)更復(fù)雜的運(yùn)動(dòng)校正，最后，流經(jīng)整個(gè)大腦的視覺反饋實(shí)現(xiàn)有意識(shí)的運(yùn)動(dòng)錯(cuò)誤糾正。

最后，所有哺乳動(dòng)物大腦的一個(gè)主要特征是由大量相似的 6 層皮質(zhì)柱組成的新皮層，所有這些柱狀結(jié)構(gòu)都被認(rèn)為是在一個(gè)標(biāo)準(zhǔn)的計(jì)算模塊上實(shí)現(xiàn)變化的。

總的來說，經(jīng)過 1 億年進(jìn)化而來的現(xiàn)代哺乳動(dòng)物大腦非凡的模塊性，表明這種系統(tǒng)級模塊化可能有利于實(shí)現(xiàn)人工智能系統(tǒng)，當(dāng)前的從白紙狀態(tài)開始訓(xùn)練神經(jīng)網(wǎng)絡(luò)方法對于實(shí)現(xiàn)更一般的人類智能是不可行的。

5 億年來，脊椎動(dòng)物大腦的進(jìn)化創(chuàng)造了一個(gè)高度異構(gòu)和模塊化的計(jì)算系統(tǒng)。

無監(jiān)督學(xué)習(xí)、遷移學(xué)習(xí)與課程設(shè)計(jì)

AI 系統(tǒng)與 human-like learning 之間的另一個(gè)主要區(qū)別在于，AI 系統(tǒng)要接近人類水平的表現(xiàn)，需要大量的標(biāo)記數(shù)據(jù)。

例如，最近的語音識(shí)別系統(tǒng)使用 11940 小時(shí)的語音進(jìn)行訓(xùn)練，并有對應(yīng)的文本語料。如果我們每天花 2 小時(shí)看和聽另一個(gè)人大聲朗讀文本，需要 16 年才能獲得這么大的數(shù)據(jù)集。

AlphaGo zero 自我對弈了 490 萬場圍棋，才擊敗了人類圍棋大師。如果一個(gè)人話 30 年的時(shí)間，每天必須要下 450 場才能達(dá)到 AlphaGo zero 的練習(xí)量。

此外，最近的一個(gè)關(guān)于可視化問答的數(shù)據(jù)集包含 0.25M 的圖像、0.76M 的問題和~ 10M 的答案。如果我們每天收到 100 個(gè)關(guān)于圖像的問題的答案，那么我們需要 274 年的時(shí)間才能接觸到這么大的數(shù)據(jù)集。

很明顯，在所有這些情況下，人類接收到的帶標(biāo)簽的訓(xùn)練數(shù)據(jù)要少得多，但人類能夠很好地識(shí)別語音、下圍棋和回答有關(guān)圖像的問題。

彌合人工智能和生物智能之間這一鴻溝的幾個(gè)關(guān)鍵在于，人類從無標(biāo)記數(shù)據(jù)中學(xué)習(xí) (無監(jiān)督學(xué)習(xí)) 的能力，以及從解決先前任務(wù)時(shí)獲得的強(qiáng)大先驗(yàn)知識(shí)，并將這些知識(shí)轉(zhuǎn)移到新任務(wù) (轉(zhuǎn)移學(xué)習(xí)) 的能力。

最后，人類社會(huì)已經(jīng)建立了教育系統(tǒng)，包括精心選擇的任務(wù)序列的設(shè)計(jì)，以促進(jìn)知識(shí)的獲取 (課程設(shè)計(jì))。

為了在人工系統(tǒng)中有效地實(shí)例化這些概念，我們需要對人類和其他動(dòng)物如何進(jìn)行無監(jiān)督學(xué)習(xí)、如何在任務(wù)之間傳遞知識(shí)以及如何優(yōu)化課程等問題有更深層次的理解和數(shù)學(xué)形式化。這些領(lǐng)域的進(jìn)步，需要計(jì)算機(jī)科學(xué)家、心理學(xué)家和教育工作者的相互合作，這可能是減少當(dāng)前 AI 系統(tǒng)令人望而卻步的數(shù)據(jù)需求的關(guān)鍵。在其他標(biāo)記數(shù)據(jù)稀缺的領(lǐng)域，它們對于增強(qiáng) AI 的能力至關(guān)重要。

Taskonomy：斯坦福大學(xué)進(jìn)行的一項(xiàng)關(guān)于 26 項(xiàng)不同視覺任務(wù)之間的遷移學(xué)習(xí)的研究

建立理解，規(guī)劃和積極因果學(xué)習(xí)的世界模型

當(dāng)前成功商用的 AI，多是監(jiān)督學(xué)習(xí)模型。AI 被動(dòng)獲取輸入，人為調(diào)參糾正輸出的結(jié)果。

但是反觀人類，即使是嬰兒也可以主動(dòng)去探索周圍環(huán)境，具有學(xué)習(xí)和利用世界模型的卓越能力。

舉個(gè)例子。我們可以玩?zhèn)€小魔術(shù)，給嬰兒看兩個(gè)東西，A 好像是可以穿墻而過；B 好像撒手后不會(huì)掉下來。

把這兩個(gè)東西教給嬰兒后，嬰兒拿到 A 會(huì)嘗試去把它推進(jìn)硬質(zhì)表面；而拿到 B 則會(huì)撒手，看看它到底會(huì)不會(huì)掉下來。

你看，嬰兒不需要人為去糾正結(jié)果，而是會(huì)去主動(dòng)去探索結(jié)果。這個(gè)非凡的實(shí)驗(yàn)表明：

嬰兒的腦海中已經(jīng)建立起物理世界運(yùn)作規(guī)律的模型

能夠注意到違反物理世界運(yùn)作規(guī)律的事件

積極驗(yàn)證上述事件收集數(shù)據(jù)，并主動(dòng)根據(jù)模型選擇訓(xùn)練數(shù)據(jù)

這個(gè)實(shí)驗(yàn)給了我們很大啟發(fā)，即：從經(jīng)驗(yàn)中學(xué)習(xí)世界模型，并使用這些世界模型來制定未來的行動(dòng)規(guī)劃，以及進(jìn)行決策。

該系統(tǒng)直接將世界狀態(tài)映射到值或預(yù)期的未來獎(jiǎng)勵(lì)，人工智能中的這項(xiàng)工作可以與神經(jīng)科學(xué)的工作攜手并進(jìn)，揭示動(dòng)物的神經(jīng)活動(dòng)如何與想象的和實(shí)現(xiàn)的未來相關(guān)。

此外，好奇心等基本驅(qū)動(dòng)因素可以化為強(qiáng)化學(xué)習(xí)系統(tǒng)，以促進(jìn)學(xué)習(xí)和探索。

這種基于模型的規(guī)劃和決策，可能是當(dāng)前無模型強(qiáng)化學(xué)習(xí)系統(tǒng)的有力輔助。進(jìn)一步深入理解促進(jìn)動(dòng)物和人類學(xué)習(xí)的內(nèi)在生物驅(qū)動(dòng)，可能對加速人工智能的學(xué)習(xí)非常有益。

科學(xué)家發(fā)現(xiàn)嬰兒的感官體驗(yàn)統(tǒng)計(jì)數(shù)據(jù)有了新的變化

在后摩爾定律的世界中實(shí)現(xiàn)節(jié)能計(jì)算

生物系統(tǒng)和人工智能系統(tǒng)之間的另一個(gè)數(shù)量級差異，在于它們的能量消耗。 同樣的計(jì)算量，人腦僅消耗 20 瓦的功率，而超級計(jì)算機(jī)則以兆瓦的功率運(yùn)行。

人腦消耗的功率比家里的節(jié)能燈還小！

造成這種差異有兩個(gè)愿意。首先，可能是因?yàn)閿?shù)字計(jì)算本身需要在計(jì)算的中間階段，以極高的可靠性翻轉(zhuǎn)每一個(gè) bit。

相對的，生物計(jì)算像是讓一群猴子敲代碼，嘈雜又不精確；可每個(gè)中間步驟卻非常可靠，導(dǎo)致最終結(jié)果是精準(zhǔn)的。

另外，大腦還會(huì)智能地，根據(jù)所需的通信速度調(diào)節(jié)能量成本，只在需要更高速度且僅需要更高可靠性時(shí)，才會(huì)消耗更多能量。而數(shù)字計(jì)算機(jī)的每個(gè)時(shí)鐘周期，都需要消耗大量的能量。

我們以大腦中遍歷目標(biāo)神經(jīng)元的單個(gè) bit 所需的成本為例 [18]。

首先，囊泡的隨機(jī)釋放化學(xué)信號，以 1 毫米 / 秒的速度擴(kuò)散到源神經(jīng)元和目標(biāo)神經(jīng)元之間的空間，僅消耗 2.3fJ 能量（考慮到神經(jīng)元連接之間的距離只有 20 納米，這個(gè)速度完全沒有問題）。

然后，該化學(xué)信號被轉(zhuǎn)換為無源電信號，再以 1 米 / 秒的速度流過神經(jīng)元細(xì)胞體，橫穿約 10 微米燃燒 23fJ。

最后到達(dá)軸突終端并轉(zhuǎn)換為長軸，沿著軸突以 100 米 / 秒的速度行進(jìn) 1cm，消耗 6000fJ。

可以看到，在從化學(xué)信號傳遞到被動(dòng)電信號時(shí)，大腦動(dòng)態(tài)地將通信速度上調(diào) 1000 倍，以跨越增加 1000 倍的距離，從而導(dǎo)致能量消耗增加 10 倍。

類似地，在從被動(dòng)到主動(dòng)電信號傳輸?shù)倪^程中，大腦將通信速度提高 100 倍，以跨越增加 1000 倍的距離，從而導(dǎo)致能量消耗增加約 200 倍。

所以生物計(jì)算的混亂模式，反而可能反映出高能效的設(shè)計(jì)原則，值得我們借鑒到 AI 硬件中。

Neurogrid：由硅實(shí)驗(yàn)室的斯坦福大腦開發(fā)的一種生物啟發(fā)的神經(jīng)形態(tài)計(jì)算機(jī)

AI 的神經(jīng)科學(xué)和神經(jīng)科學(xué)的 AI：一種良性的科學(xué)螺旋

最近，神經(jīng)科學(xué)和人工智能之間的相互作用的發(fā)展，綜合深度和復(fù)發(fā)神經(jīng)網(wǎng)絡(luò)模型的發(fā)展，成功構(gòu)建出動(dòng)物的在對應(yīng)不同任務(wù)時(shí)，調(diào)用不同大腦區(qū)域的模型。例如腹側(cè)視覺流，聽覺皮層，前額皮質(zhì)，運(yùn)動(dòng)皮質(zhì)和視網(wǎng)膜。

我們驚奇的發(fā)現(xiàn)，當(dāng)訓(xùn)練深度或復(fù)發(fā)網(wǎng)絡(luò)來解決任務(wù)時(shí)，其內(nèi)部活動(dòng)模式，與測量出來的（解決相同任務(wù)的）動(dòng)物內(nèi)部神經(jīng)活動(dòng)模式非常相似。

這就涉及到一個(gè)基本問題：我們?nèi)绾卫斫膺@些模型正在做什么以及它們?nèi)绾喂ぷ鳎恳簿褪钦f，如何解決 AI 神經(jīng)網(wǎng)絡(luò)的可解釋性？

某些應(yīng)用場景，尤其像醫(yī)學(xué)診斷或和法律，AI 必須是透明的、可解釋的。如果醫(yī)生和法官無法解釋為什么 AI 系統(tǒng)給出這樣的決定，就沒人敢采用人工智能系統(tǒng)的建議。

任務(wù)驅(qū)動(dòng)的視覺系統(tǒng)卷積循環(huán)模型可以同時(shí)執(zhí)行機(jī)器視覺任務(wù)并解釋猴子視覺系統(tǒng)的動(dòng)態(tài)

發(fā)現(xiàn)人工智能普世定律

正如我們相信物理世界中一切現(xiàn)象的背后，都被普世的定律控制：空氣動(dòng)力學(xué)控制飛行；量子力學(xué)控制納米世界的演化等等。

我們認(rèn)為在智能領(lǐng)域，同樣存在著普世的定律，可以連接和統(tǒng)一神經(jīng)科學(xué)，心理學(xué)，認(rèn)知科學(xué)以及人工智能等相關(guān)學(xué)科，同時(shí)和分析計(jì)算領(lǐng)域（如物理，數(shù)學(xué)和統(tǒng)計(jì)學(xué)）互惠互利。

例如本文作者同時(shí)使用了動(dòng)力系統(tǒng)理論 [25-28]，統(tǒng)計(jì)力學(xué)[29-33]，黎曼幾何[34]，隨機(jī)矩陣?yán)碚揫13,35] 和自由概率理論 [36] 等技術(shù)，獲得對生物和人工網(wǎng)絡(luò)運(yùn)作的概念性見解。

創(chuàng)造智能機(jī)器可能存在多種解決方案，其中一些組件在生物解決方案和人工智能解決方案之間共享，而其他組件則可能不同。通過尋求普世的智能定律，我們可以更有效地理解和遍歷整個(gè)解決方案空間。

人工智能，以人為本

發(fā)現(xiàn)適用于生物和人工系統(tǒng)的新興智能的潛在法則，以及建立受神經(jīng)科學(xué)和心理學(xué)啟發(fā)的新型 AI，需要大家共同努力。

我們需要建立新的研究團(tuán)體，遍布不同的學(xué)科，還需要培養(yǎng)新一代思想領(lǐng)袖，能夠在計(jì)算機(jī)科學(xué)家，神經(jīng)生物學(xué)家，心理學(xué)家和數(shù)學(xué)理論家等不同身份之間，隨意轉(zhuǎn)換。

這可能是本世紀(jì)及以后最激動(dòng)人心的智力活動(dòng)之一！