機器怎樣才能有意識

來源：應行仁科學網部落格

摘要：意識，沒有一個客觀的科學定義，難以觀測認定，但它是每個人都能主觀感受到的真實。

意識，沒有一個客觀的科學定義，難以觀測認定，但它是每個人都能主觀感受到的真實。當你看到嫣紅的桃花輕搖，繽紛飛舞，聞到陣陣清香，清晰地感受身在桃林暖風花雨中，勾起昔日人面桃花相映紅的悵惋，你的感受認定了自己在熟悉的春日下。這經歷和想象，方才過往現在感受與即將到來的統一和諧連貫映像，綜合著各種感知的體驗構成了意識，其中有個同一的心理上連貫的“自我”作為意識的主體，以內在的視角對世界作出反應。機器會有嗎？

在心智研究上，人們向來把難解的意識問題留給哲學思考，科學只關心客觀能夠描述的智慧。人工智慧發展到今，機器在辨識和棋類博弈方面的智慧已經與人相敵了，各種高超的智慧機器噴湧而出，人們開始認真考慮機器能否形成自我，怎樣才能具有意識的問題了。

智慧的問題

早期人們對心智問題的研究，基本是內省的感悟，這個感悟構建的心理學獨立於物理世界之外，表現為物質和心靈的二元論。到了20世紀，行為主義開始流行，不講主觀感覺只重客觀行為，觀察人的外在表現和傾向，不在乎所謂的心理解釋。1950年圖靈在“電腦能思考嗎？”的論文中，第一次提出“機器思維”的概念。他認為：通過電傳終端與另一邊進行對話，如果人們無法區分那邊是機器還是人類時，那麼就該承認這機器具有智慧。這個測試稱為“圖靈測試（Turning Test）”。他的主張在認知科學上稱為功能主義。計算機發明後，特別是圖靈的工作，功能主義取代了行為主義，成為心靈和智慧研究的主流。在功能主義旗幟下的計算主義，以實現功能的計算來窺探認知，至今仍是人工智慧研究和認知科學的標準正規化。

1980年代，當計算主義信心滿滿地研究智慧、展望未來時，哲學家塞爾用“中文房間”思想實驗，提出質疑。塞爾形象地模擬專家系統的符號運算，說不懂中文的他，躲在裝有許多中文字片的房間裡，收到外面傳來中文字條，他只是按預訂的規則挑選對應的中文字片來作為回覆，就給人一種能理解中文會思考做答的印象。計算機也是如此，它只是按規則搬弄字元，無論表現得多麼神奇，其實都不是通過思考。這是現代哲學中最著名的思辨之一，他針對是能夠通過圖靈測試的機器智慧，在哲學界和認知科學上引起了廣泛的討論。

那時的人工智慧是按照符號主義的思想來構建的，認為認知和思維的基本單元是符號，知識用符號依句法形成符號串表示為命題，認知是按形式邏輯處理符號串的過程，研究智慧的工作是怎麼最有效地搜尋知識庫來求解。塞爾質疑心靈活動能夠通過這樣機械式的計算來描述。

他認為思考不是簡單的邏輯運算，必須由具有內在因果性的機制和意向的動力來驅動。當問起肉包好吃嗎？大腦中湧現肉包形象、香氣和味道體驗的回憶，在喜好意向的驅動下，組織成語言作答。而專家系統和中文房間，都不是從由對肉包的感受，只是分析句法，按照對照表找到最符合的字片來回復。雖然惟肖惟妙，但談不上理解，更沒有思想。

在過後的30多年至今，人工智慧的主流已經從符號主義，轉到深度學習的聯結主義機制上了。神經網路通過學習，獲得瞭如同人類一樣，能夠舉一反三、由此及彼，聯想推測的“感性”辨識決策能力。雖然讓機器模仿人類，不是現在人工智慧研究主流追求的目標，但技術的發展讓它在更高程度的智慧上與人真假難分，聽和看人類自然語言也進入應用領域，通過圖靈測試不再是個問題了。但圖靈測試只與對應問答的功能有關，具有同樣輸出輸入關係的功能可以由不同的內在機制來驅動的。也許“中文房間”的符號主義操作過程，並不適用於現在神經網路的智慧機制了，但塞爾的核心思辨仍然在質問：人對問題的回答是有意識的，由感受內容的因果性所驅動，機器會有意識嗎？它真的理解所問的內容嗎？

意識的問題

哲學家用殭屍（Philosophical Zombie）來形容在行為上與真人無異，卻沒有思想、意志和意識的物體。它所作所為不由自主，只是被動的反應。“中文房間”的思辨自1980年起，哲學家科學家就不斷地在學術刊物上爭議。作為哲學家的塞爾強調計算機的行為不是由意識驅動的，它是按照固定程式行事的哲學殭屍，只是在模擬能夠思考。圖靈測試無法區分哲學殭屍和由意識驅動行為的人類，他們的本質分歧在於什麼是意識？能否測定意識？

“意識”是哲學一直關注最古老的問題，自笛卡爾起，哲學家開始以嚴謹的態度思考物質與精神的關係。科學研究的是客觀的現象，而意識是主觀的體驗。看到一片光華，你感覺到了通紅的顏色，火熱的激情，可是客觀的測量和物理知識告訴我們，這是頻率400～484THz的電磁波作用於我們的眼睛，但是在黑暗中的激情迷幻也能產生類似的感受。當你正在經受著疼痛，而一切身體檢查都無法解釋疼痛的存在時，什麼更為真實？是根據科學檢測的醫生判斷，還是自己切身的感受？當你沉靜下來，專注內心默唸幾次：“我的腦中響起了這句話”，你用心體察，會感受到頭腦裡也響起這句話，而周邊其實寂靜無聲。這些都是每個人都能真切感受到的體驗，其體外的物理測量卻無法探知。

外在的檢測難以探知主觀的體驗，在過去只能通過主觀訴說得知，同一種事物主觀感受因人而異，體驗未必是真，訴說也許謬誤，這些都無法符合客觀的標準。所以近到二三十年前，意識的概念一直被科學界所排斥，甚至這個詞在《自然》和《科學》稿件和基金申請中都是個忌禁。主觀意識從根本上便被要求客觀的研究無視，它遠在以客觀為基礎的科學理論之外。

能被客觀測量的事物性質叫屬性，如“力”和“頻率”；主觀感覺到的性質叫感受（quale），如“疼痛”，“紅色”，“迷茫”等等，它是具有前因後果連貫的一個狀態。感受是一切心理現象的基礎，它是意識的體現。意識存在於主觀世界的感受空間裡，而客觀世界是在物質屬性的空間裡。人在感官刺激下感受到一種體驗，而在沒有感官訊號輸入的夢境中，同樣可以得到類似的體驗，即使在清醒時也有幻聽、幻覺和聯想。客觀世界的物質作用和主觀世界的內心感受並非完全對應。現代的神經生理學研究雖然已經細緻地瞭解了機體經受傷害時，刺激作用於機體外周感受器，轉變成神經衝動進入中樞神經系統直到大腦皮質興奮的動力過程和化學物質，但是仍然無法理解如何產生主觀意識上的體驗。

當代哲學家戴維·查默斯（David Chalmers）把理解人類意識的問題分為“簡單問題”和“困難問題”。“簡單問題”是指理解大腦中產生知覺、記憶和行為的結構、功能和機制，“困難問題”是理解這些為什麼會和意識相聯絡，它的本質和來源。因此解決“簡單問題”，對解決“困難問題”並沒有幫助。主觀和客觀是基於對立假設的兩種世界，不能以己方來肯定對方的基本設定，所以困難的問題永遠無解。

意識理論

對應於解釋意識本質和來源的“困難問題”，時空物質的本質和來源其實是對應著這個問題的另一面。客觀世界是意識的產物，意識無法驗證自我不存在的世界。在科學上是先以承認時空物質的存在性作為不容置疑的公理，然後研究它們間的性質和關係，給我們建造了一個物理世界的理論。在這構建中抹去了主觀的位置，所以建立在物質主義的科學無法解釋意識的問題。

近十來年來，腦科學致力於研究“真正問題”，即意識存在的生物學基礎。它不同於迴避意識存在的“簡單問題”，也不糾纏於解釋意識的存在的“困難問題”，而是以承認意識存在作為出發點，探究支援意識現象的基礎機制。它包含了研究清醒、幻夢到睡眠的意識層次，視覺、聽覺、觸覺、心情、思想和信仰等意識體驗，以及產生自我意識的意識自身。

意識存在性對思考這問題的人而言，其實並不比物質的世界更為可疑，笛卡兒曾以懷疑一切的態度審視被認為真實的存在，當一切皆為可疑時，唯有正在懷疑著的這個意識必須存在才有可能，所以“我思故我在”。現代的腦科學研究通過腦電圖（EEG）、功能核磁共振（fMRI）和微電極等技術手段，來探知大腦神經活動，將意識活動對應於神經元的一系列興奮狀態變動，建立起主觀感覺與客觀可測量現象的聯絡，以此來研究與人們主觀感受相關的機制、結構和量值。瞭解當你“知道”你正看著一條狗時，頭腦哪些神經元發生了什麼？當你突然感到悲傷時，它又發生了什麼？

從20世紀90年代開始的幾十年中，現代神經科學、臨床和心理學的研究從外部探知人腦的活動現象和區域，已經積累了許多發現。英國DNA雙螺旋結構發現者弗朗西斯·克拉克（Francis Crick）和美國計算神經學家克里斯托夫·柯克（Christof Koch）在1988年就致力於這個研究。他們發現每個意識的知覺都與特定方式運作的特定神經元組（Neuronal Correlates of Consciousness，簡稱NCC）有關。神經元興奮的訊號、波動和活動的區域都能被儀器檢測到，從而判別無意識、意識清醒的程度，以及支援它們的神經組織結構。病理分析可以鑑別這些神經元組是否與意識有關。

看到紅色是一種神經元意識的關聯，香氣是另一種關聯，觸覺又是一種。當你看到嫣紅的桃花輕搖，繽紛飛舞時，視覺皮層活躍起來在綜合處理桃花的顏色，形狀和運動的軌跡，嗅覺皮層在分辨聯絡送來的香氣，顳葉上的聽覺區收到花枝輕搖的聲響，微風和花瓣輕拂而過的皮膚產生感覺的電訊號傳入腦中觸覺的區域，這些感官皮層的興奮導致大腦皮層幾個區域同時湧起的興奮波動，讓你感受到一個融為一體的意識體驗。米蘭大學的神經科學家馬塞洛·馬斯米尼（Marcello Massimini）用腦電圖（EEG）記錄短時電脈衝刺激後的腦區響應（經顱磁刺激技術 TMS），可以從用響應模式的資訊複雜度，定量地區分從完全清醒狀態、無夢睡眠到深度麻醉狀態的不同意識水平。

美國威斯康星大學麥迪遜分校精神病學家和神經學家朱利奧·託諾尼（Giulio Tononi）從資訊角度來尋找一個描述意識清醒程度的數值指標Φ和意識體驗的資訊結構。在研究中總結出意識體驗是存在的、複合的、資訊的、整合的和排斥的五個現象學特徵。他將之立為五個公理，依此由狀態轉移機制來找出在給定狀態下，能夠產生最大Φ值的神經元複合體和具有最小不確定性的概念結構。這個類似於構建力學系統的研究稱為“資訊整合理論（Integrated Information Theory，簡稱IIT）”。

在這個理論中，神經元組中神經元的興奮與否抽象地描述成它們01真值的一個狀態，神經元聯接的結構和權重決定了興奮觸發的機制，神經元組將單個神經元的興奮機制複合成為狀態隨時間變化的機制。神經元組外還可能有其他未知的輸入，因此神經元組的現在狀態，決定了是在其機制約束下，相關神經元集合以前和以後可能狀態的兩個概率分佈。在狀態的變化中，以前狀態是現在的“因”，以後是現在的“果”，神經元組的興奮在其機制約束下，建立了“因果性曲目（Cause-effect repertoire）”，即這兩個概率分佈。若這曲目要比完全隨機無序的前因及隨機狀態演化的後果具有較少的不確定性（較小熵），神經元組的機制對這狀態就產生了一種因果性資訊。對神經元組而言，這個較確定的前因後果是神經元組對狀態有一個較清晰連貫的系統屬性，對應著意識中的基礎“感覺”。

對應於意識體驗是不可分解整體的屬性，只有在神經元組整體產生因果性曲目的不確定性比分割成幾塊產生的曲目組合小，則才有可能。若整體產生的因果性資訊大於分解組合的神經元組，則稱為不可分解的整合，這種整合能減少不確定性的資訊量記為φ。因果性曲目不一定要包含所有相關的神經元，排斥公理讓我們只關心和選取能導致最小不確定性整合的那些神經元所組成的因果性曲目。這影響了相應的φ值。對應於最大φ值那個因果性曲目記為MICE。這個不可分解的神經元組、其最大φ值和MICE組成了一個“概念（concept）”，對應於意識體驗中的一個感受方向，它指向這不可分解的神經元組擁有哪個最為確定的前因後果。

不可分解神經元組的各個不可分解的子集都能產生“概念”，這個系統的資訊量是每個“概念”中MICE的因果性資訊量與它φ值加權的和，它標誌著系統減少不確定性的能力，所以具有越多個和越高φ值“概念”的系統可能對應著有著越豐富明確的綜合感覺。

整合公理要求進一步比較神經元組整體與分解組合所擁有“概念”MICE系統的不確定性。這個整體更強的概念系統資訊，記為Φ，意味著這神經元組在整合“概念”上也是不可分解的。排斥公理說，具有最大Φ值的不可分解神經元組，即“複合體（complex）”，排斥了其他“感覺”的貢獻，以消除任何兩可的含糊。最大整合概念系統的概念結構（MICS）是由現在狀態的複合體所產生的概念結構，它擁有最大整合確定性的概念組合。

按照以上方法發現的MICS在資訊角度等同於意識的主觀體驗，其資訊的構成完全符合意識體驗現象學的特徵，其複合體對應於意識中的主體。例如看到“一個紅色滾動的圓球”，這對應著一個作為複合體的神經元組正處在某個狀態中，它的機制產生的“紅色”、“滾動的”、“圓球”等各個概念都具有相應的最為確信的因果性曲目，構成一個不可分解的整體體驗。每個概念對應著意識體驗的一個方向，其φ值表示這方向體驗的強度。它們決定著體驗的品質。而Φ值對應著這時整體意識的清醒程度。

IIT提供了一個計算方法來測量意識體驗和理解其機理的數學模型，其計算機模擬的結果在臨床中得到了驗證。只有足夠高的Φ值才具有人類澄明的意識。它被認為是目前最有前途的意識理論，成為當下神經科學的熱門話題，得到許多重量級科學家的擁護。

機器意識

NCC和IIT理論在科學實驗的基礎上探究大腦皮層神經元組的興奮狀態與意識活動的聯絡。根據IIT，人腦中融為一體的意識體驗，依賴於興奮狀態在複合體中所產生資訊整合為一體的能力。這個理論建立在抽象的狀態轉移機制系統上，所以不僅適用於大腦中神經元組，也可以是任何符合這數學模型的硬體。託諾尼用Φ值來度量整合的程度，Φ值越高，對應著意識程度這時就越高。這種意識現象的度量只與系統中狀態轉移機制的結構和所處的狀態有關，而不管它是在一個人的神經系統、或是一隻昆蟲的，甚至是一臺機器中。

根據IIT，雖然我們不能確信能產生高Φ值的機器一定會像人類那樣思考，但可以確定今日機器學習的人工智慧，包括深度學習具有很強辨識能力的機器，打敗人類的阿爾法狗，現在會與人對話的機器人都不具備意識的特徵。不論它們擁有多少神經元和聯接，將來擁有多少超越人類的智慧，這類前饋型多層神經網路實現的是一個從輸入到輸出的確定函式，只擁有屬於哲學殭屍的功能。

這樣沒有反饋迴路結構的神經網路系統，不能形成複合體，Φ=0，只有輸入到輸出的對映關係，不會產生意識的體驗。就像人類的小腦具有遠比大腦多的神經元，實現了許多非常複雜需要智慧的活動，但這些智慧還只是在無意識下進行。高度聯接的網際網路和生物的本能也只具有不值一提的Φ值，單純的高智慧系統未必具有意識。意識也許是一種靈活地運用高度整合極其豐富資訊來做決策和交流活動的資訊控制機制，人類在自然競爭中因此進化出具有密集複雜聯接結構的大腦皮層，用以支援這種優越的機制。作為工具的智慧機器，不必具有意識也可以實現我們所需要的各種智慧。現在流行的人工智慧技術並不導向具有意識的機器，對此必須在結構和研究上另起爐灶才有可能。儘管這還是個空白，但創造這種與人類意識特徵相同的資訊整合智慧，在原理上並無不可逾越的障礙。

【參考資料】

⦁ 克里斯托夫·科赫，顧凡及、侯曉迪譯，“意識探祕——意識到神經生物學研究”，上海：上海科學技術出版社，2016

⦁ Oizumi M, Albantakis L, Tononi G (2014), From the Phenomenology to the Mechanisms of Consciousness: Integrated Information Theory 3.0, PLoS Comput Biol 10(5): e1003588.

⦁ Tononi G (2012) Integrated information theory of consciousness: an updated account. Arch Ital Biol 150: 56–90.

* 此文曾刊在《中國計算機學會通訊》第14卷第2期（2018.2）專欄，這裡文字略有修改。

 原文連結：http://blog.sciencenet.cn/blog-826653-1129449.html 

未來智慧實驗室是人工智慧學家與科學院相關機構聯合成立的人工智慧，網際網路和腦科學交叉研究機構。

未來智慧實驗室的主要工作包括：建立AI智慧系統智商評測體系，開展世界人工智慧智商評測；開展網際網路（城市）雲腦研究計劃，構建網際網路（城市）雲腦技術和企業圖譜，為提升企業，行業與城市的智慧水平服務。

  如果您對實驗室的研究感興趣，歡迎加入未來智慧實驗室線上平臺。掃描以下二維碼或點選本文左下角“閱讀原文”