智源導讀：人工智能發展到當前階段，大家都開始認識到腦科學和人工智能有很密切的關系，腦科學會對人工智能的發展產生很大幫助，反過來思考這個問題，腦科學對人工智能研究真的有幫助嗎？離開腦科學之后，人工智能是否依舊能進一步發展？這是很有必要回答的一個問題，

在智源研究院成立兩周年暨“2020智源論壇”中，清華大學教授、智源首席科學家劉嘉，作為認知神經科學領域的知名學者，卻做了否定式地質疑：

“

物理世界與心理世界并非一一對應關系，人類智能和物理世界的本質也不同，因此從原理上講，實作 AI 并不需要認知科學，實作智能，也不需要像素級的拷貝大腦，

”

在這種自我否定式的質疑后，劉嘉教授邀請了智源研究院不同研究領域的六位科學家，圍繞能否借鑒、怎么借鑒等問題進行了深度探討，

整個研討分為兩部分，首先由清華大學教授劉嘉做引導報告《腦科學真的可以啟發AI么》，隨后七位學者圍繞多個問題進行辯論，

從左到右：吳思、陳良怡、孫茂松、李國齊、王立威、張志華

腦科學可以啟發 AI ？

以下是劉嘉教授的報告內容整理：

01

AI存在的問題

最近Hinton接受了MIT Technology Review的采訪，簡短的內容中表達了一個重要的觀點是“深度學習可以做任何事情”，

他舉例說GPT-3可以在一定程度上達到“理解”，但是當我們向GTP-3提問一些很“愚蠢”的問題的時候，比如說“腳上有幾只眼睛”，它會回答“兩只眼睛”，GTP-3在學習的時候都是在學習“聰明”的問題，從來沒有“考慮”過“愚蠢”的問題如何回答，所以只有在我們向它提問“聰明”的問題的時候，它才能夠展現其強大之處，從這個角度來說，GTP-3并非達到了真正的理解，而僅是把已有的知識做了一定的關聯，

Hinton進一步表示相比于靜態的文本的學習，如果能夠對場景進行描述，那就表明AI對動作產生了真正的理解，但是相比于AI的描述來說，人類的真實反應會包含更豐富的資訊，這些更深層次的理解是AI所不能夠達到的，

隨后Hinton提到GTP-3目前還沒有達到完美的主要原因是，其連接數量還不夠多，僅有1750億個引數，如果能夠再提高3個量級，GTP-3可能就能完成人需要做的任務，

但是從進化的角度來看生物智能，并非是一個線性提高數量的程序，而是形成了“進化樹”，從簡單的線蟲（302個神經元）到人（860億個神經元），每一種生物都有不同量級的神經元數量，但是這些生物都對外界形成了完美的適應，形成了所謂的“通用智能”，因而提高神經元數量并不是生物智能采用的策略，

一篇最新發表在Nature Machine Learning的文章，只用了19個包含神經形態的神經元就完成了自動駕駛的任務，其關鍵是采用了受線蟲啟發神經環路法則（Neural Circuit Policy），這個網路僅有7500個引數，比傳統的自動駕駛神經網路低了3個數量級，但具有更好的擴展性，可解釋性和穩定性，所以規模雖然很重要，但是并不是決定智能的唯一因素，

02

生物如何實作智能

就借鑒生物智能的角度來講，我們當前依然需要回答一些很重要的問題，生物如何實作智能？智能的本質是什么？這些答案將會對AI的研究提供幫助，但是我們不能只停留在幫助的表層（例如人臉識別），而需要挖掘更深層的東西，即智能的本質，

康德（Immanuel Kant）在三百年前就提出一個猜測“人類存在三種先天的先驗知識：空間，時間和因果”，這三點在當前的智能研究中依然是非常重要的問題，

物理量和心理量不存在一一對應的線性關系，比如心理時間和物理時間，物理時間只有“過去”和“未來”，“現在”是無窮小的點，但是心理時間卻只有“現在”，而沒有“過去”和“未來”，“現在”對于我們來說是唯一真實的存在，是對“過去”的一點點記憶和對“未來”的一點點預期，對物理世界的時間描述轉化成主觀世界的時間描述是在學習生物智能如何表征時間的之前就需要考慮的問題，

同樣地，人類對于色彩的表征也和物理世界有著很大的不同，我們所感知到的不同顏色在物理世界僅僅是不同的電磁波，因此，心理世界和物理世界的法則是存在差異的， 需要新的理論來描述生物智能并引導類人智能的發展，這是腦科學和認知科學對于AI的最大意義，

03

對于人類智能的探索程序

上世紀二十年代，心理學家華生（John B. Watson）提出只要給予充足的環境，可以將嬰兒訓練成任何預設的目標，而不需要關注其內部特征，這就是目前人工智能“端到端”訓練的采用的方法，只要有足夠多的資料和反饋，就可以找到二者之間的關系，這屬于行為主義，

桑代克（Edward L. Thorndike）提出因果律（The law of effect）認為行為產生的結果對行為產生影響，這實際就是目前的強化學習，不論是行為主義還是巴普洛夫（Ivan Petrovich Pavlov）的條件反射實驗，都把大腦當成“黑盒子”，

直到加西亞（John Garcia）在上世紀五十年代進行了老鼠的味覺厭惡實驗，才引起了認知革命，并不是所有的刺激都能和反應建立連接，這對行為主義提出了否定，有機體的學習潛能要被其他生物學基礎所約束，底層的結構會約束上層的學習機制，從此人們才開始思考認知科學，

大腦并不是“黑盒子”，充滿了許多“先驗”、“認知加工“等機制，隨著神經科學的加入，最近三十年認知神經科學取得了極大的進步，從基因、單細胞、神經環路、全腦功能、行為和仿真，形成了一整條完整的發展路徑，

前沿交叉圓桌

腦科學是否能真的啟發人工智能？如何與各方向更緊密結合？

01

必要性

問題：如果希望人工智能網路實作人類水平的認知功能，類腦或者類生物神經系統的結構特征或者演算法原則和加工機制是否是必需的？如果存在功能相當的生物智能與人工智能系統，它們之間是否必然存在某種程度上的結構或功能相似性？

吳思：生物智能是智能的樣板，必要性很難證明，但是人工智能可以從生物智能中學習很多，例如如何處理維度爆炸的問題，

陳良怡：不一定非要復制生物智能系統，因為不同個體的神經物理連接不同，單純的物理連接并不一定提供普適性規律，就像我們對于象棋法則的理解需要進行很多局的觀察，重點是提取內在的規則，另外計算機系統是決定性的，而生物系統是進化產生的，具有多樣性，不一定是最優的，而僅是一種選擇的結果，目的是群體對于環境變化具有適應性，如何從數學角度實作是需要考慮的，

孫茂松：對智能本質的理解是關鍵，當前對于大腦的理解尚不清晰，當務之急還是搞清楚大腦的作業機制，目前大腦還是宇宙中唯一的智能體，邏輯上還是要學習大腦，這樣才有機會觸及到智能本質的問題，

李國齊：人工智能有多條途徑，符號主義和行為主義都遇到了瓶頸，連接主義嘗試模擬大腦神經網路，借鑒人腦是一個偉大的信念，是一個值得嘗試方向，

王立威：計算機中任何一個問題，最優演算法都不是唯一的，從這個角度來看，實作智能可能有多條路徑，借鑒生物智能最核心的是對大腦作業原理的借鑒，而目前相比于對大腦作業機制的理解而言，我們對這些原理是什么這個問題的答案還不清楚，這是更應該挖掘的問題，

張志華：機器智能要以機器為核心，對于腦科學來說，我們雖然知道智能存在，但是腦科學并不提供實作智能的途徑，當前實作智能的方式還是要通過計算機或者演算法來實作，

劉嘉：確定的答案很難獲得，目前只能繼續進行探索，

02

AI 向大腦學什么

問題：在模仿生物神經網路的時候，需要關注當下人工神經網路與生物神經網路之間可能的機制差異，并不是在大腦里的每一種結構或者機制都是與智能有關，哪些認知功能是最值得下一代人工智能來模擬或借鑒的？（大腦的特異性）另一方面，二者差異的背后可能隱藏著智能真正的本質，對揭示生物智能的獨特性有重要意義，這個差異的本質是什么？大腦與當下的AI究竟有什么值得特別關注的區別？

吳思：人工智能和人類智能存在多層次的不同，首先結構不同，大腦的結構是為了解決通用問題，但是就人臉識別這一單一任務來說，并不需要復雜的結構，所以借鑒人腦需要關注任務的差異，當需要構建通用智能的時候，人腦的知識就有很高的借鑒價值；編碼機制不同，神經網路的神經元反應是固定的，而生物神經元反應是隨機的，人在識別程序中存在置信度水平，更復雜的情況下還受先驗知識的影響，機器學習可以從這個角度進行探索，另外表征層面的差異也是值得關注的話題，

劉江：Hinton在最近的采訪中也提到核心是表示層面，巨型神經活動向量（big vectors of neural activity），這是能夠實作智能的方向，

陳良怡：作為一個能量資源有限的系統，生物系統重要的機制是學習、記憶以及遺忘，生物系統的變數是隨時間變化的，生物運用一整套系統來學習周圍的環境進而完成趨利避害等，它的個體以及群體的進化策略并不是對數量的堆疊，我們也許能模擬很復雜的人腦變數，但是能否產生多樣性是值得懷疑的，

孫茂松：知識表示是很重要的問題，知識是人區別于動物的本質，向量雖然具有合理性，但是人腦是否能處理復雜的向量？用向量計算做邏輯推理也只得懷疑？知識圖譜用三元組可以做推理，但是大腦是否是三元組？人的小樣本學習機制，人的先驗知識都值得深入探索，更大的突破還是腦科學領域，人工智能可以在這個程序中提供幫助，

李國齊：人腦的記憶、計算系統和決策系統的聯合是值得借鑒的，能夠在計算系統中實作記憶是非常好的研究方向，但是現有計算機體系存算分離，憶阻器系統雖然存算一體，但是并沒有把記憶區分層次，如何在計算系統中存取不同層次的記憶并做出決策，是做體系架構時候需要考慮的問題，我們知道大腦的神經元是多樣的，但是神經網路的神經元是相同的，要實作這樣的網路模型是困難的，另外大腦是復雜的網路動力學模型，引入這樣的模型可以做記憶和聯想，如何反映到計算系統或者芯片上是很關鍵的問題，此外還包括稀疏編碼，注意力機制都可以融入，在計算系統和計算架構設計中可以考慮多層次多粒度的記憶和聯想機制，

王立威：換一個角度思考問題，當前的人工智能在人臉識別或者下棋等特殊的任務中的表現已經遠超過人類，如果一個人不借助任何計算機工具，僅通過自主學習，從生物上提升人臉識別和下棋的能力，讓他去向現在的人工智能學習，他需要學習什么？這和我們今天從人腦借鑒提高人工智能是一個等價的，對稱的問題，相比于網路、權重，這時候更需要學習基礎的原理，確定具體的任務，搜集很多資料，定義一個目標函式，用一些優化演算法做優化都屬于基礎的原理，人工智能向人腦借鑒的具體內容是什么，需要兩個領域共同研究，深入討論來得到答案，

張志華：因果和反饋是值得借鑒的，因果學習和強化學習都是借鑒的產物，

03

如何開展交叉學科

問題：我們這個圓桌有來自自然語言理解、機器學習、資料挖掘、數學/統計和芯片等學科，覆寫了智源的每一個方向，您希望交叉的是哪個方向？

吳思：認知科學從概念和哲學上進行解釋，數學在神經系統層面有很好的應用，

陳良怡：計算機科學，借鑒深度學習手段來更好的理解實驗資料，

孫茂松：廣義的腦科學，希望智源能夠提供機會普及腦科學相關知識，來更好促進與人工智能融合，

李國齊：學科交叉非常重要，人工智能前沿的學者都有深厚交叉學科背景，個人希望了解神經動力學如何影響計算系統，

王立威：人工智能擅長解決具體問題，而不擅長完成綜合性的復雜任務，這是生物擅長的，但是人的智能太復雜了，希望能夠合作非高等生物智能研究，問題復雜度介于具體任務和高等任務之間，（陳良怡補充：很多基礎的原則完全可以在更簡單的生物智能中去尋找）

張志華：認知科學能夠對統計學方法給出合理借鑒，

劉嘉：認知神經科學研究內容太寬泛，問題的重要性不好定義，但是人工智能給出很好的提示，希望能夠和貝葉斯統計合作，用數學來描述認知程序，貝葉斯可能是最好的模式，不論如何交叉，出發點如何，交叉的領域需要不斷拓寬，打破自己的認知邊界，

在論壇的最后，吳思老師和劉嘉兩人提出了一個值得思考的問題，如果外星人來到地球，能否和人進行交流，二者的思維方式是否相同？

點擊左下角“閱讀原文”，進入社區討論！