讀人工智慧全傳14有意識的機器之路

1. 有意識的機器之路

1.1. 近年來人工智慧和深度學習方面取得了真實的、令人興奮的突破，但它們並不是構建通用人工智慧的法寶

1.2. 深度學習可能是通用人工智慧的一個重要組成部分，但它絕不是唯一的組成部分

1.3. 實際上，我們並不清楚還缺失了哪些關鍵部分，更不知道通用人工智慧的秘方究竟是怎麼組成的

1.4. 影像識別、語言翻譯、無人駕駛汽車，都無法構成通用人工智慧

1.5. 仍然面臨羅德尼·布魯克斯在20世紀80年代強調的問題：我們有一些智慧元件，但不知道如何將它們組成一個真正的通用智慧系統

1.6. 強人工智慧的目標

1.6.1. 構建跟人類一樣有自我意識的，真正能夠自主存在的機器

2. 意識、思想和其他奧秘

2.1. 1838年，英國科學家約翰·赫歇爾(John Herschel)進行了一個簡單的實驗，試圖測量太陽輻射有多少能量

2.1.1. 把一個裝有水的容器暴露在陽光下，測量了太陽能使容器中水溫升高1攝氏度所需的時間

2.2. 強人工智慧的話題，我們的目標是建造真正具有意識、具有思維，能夠擁有自我意識和理解力的機器，與我們自身非常相似

2.3. 目前的我們就跟當年的赫歇爾處在同樣的位置

2.3.1. 人類思維和意識這種現象——它們是如何進化的，如何工作的，甚至它們是如何在我們的行為中扮演控制角色的——對我們而言，就像在赫歇爾時代為太陽提供能量的物理機制，是完全神秘的

2.3.2. 這些問題我們不知道答案，連尋求答案的方式都不太清楚

2.3.3. 我們都不知道該從什麼地方著手

2.3.3.1. 實際上的情況更加糟糕，因為我們甚至不知道到底該處理什麼

2.4. “意識”“思想”和“自我意識”之類的術語，但事實上，我們都不知道它們具體是什麼東西

2.4.1. 但我們沒有辦法用科學的方式來定義或者衡量它們

2.4.2. 從科學意義來講，我們無法證明它們真實存在，但根據個人經驗和常識，它們確實存在

2.4.3. 我們根本沒有這樣的測試來研究思想或者意識：它們不適合被客觀觀察或測量

2.5. 從歷史上看，我們對人腦結構和運作的大部分了解都是透過研究那些因疾病或創傷而大腦受損的人獲得的，但這很難成為一個系統的研究專案

2.6. 意識產生於有主觀感受的智慧體，擁有主觀上的內在感受性

2.6.1. 重點就在於對內在心理現象的感知，哲學上稱之為感受性

2.6.2. 感受性是指所有人都會經歷的精神感覺

2.7. 內格爾的測試

2.7.1. 意識並不是一個有或者無的東西，它是有層次的，從極端的成熟的人類意識，到另一個極端的蚯蚓的簡單意識

2.7.1.1. 即使是人與人之間，也存在差異，一個人有意識的程度也會不同，取決於他們是否受酒精等外部因素的影響，或者僅僅是因為太過疲憊

2.7.2. 意識對不同的實體而言是不同的

2.7.2.1. 蝙蝠的意識與人類的意識完全不同，事實上，內格爾相信它超出了人類能夠理解的範疇，儘管我們仍可以確定它的存在

2.7.3. 內格爾的觀點基於一種常識，即人類是有生命的物體，這是人類特殊的地方

3. 強人工智慧

3.1. 不管人類有多麼了不起，最終也就是由一群原子組成的物體

3.1.1. 人類和人類的大腦都是物理實體，遵守物理定律

3.1.1.1. 我們目前並不太清楚這些物理定律是什麼

3.1.2. 人類是非凡的、奇妙的、不可思議的生物，但從宇宙及其規律來看，我們並沒有什麼特殊性

3.2. 人工智慧的實際成就實在是配不上人工智慧這個名字

3.3. 人類的許多行為和決策建立在“直覺”的基礎上，美國哲學家休伯特·德雷福斯(Hubert Dreyfus)認為直覺不像計算機要求的那樣精準

3.3.1. 人類的直覺不能夠簡化為計算機程式那樣的步驟

3.3.2. 確實有大量的證據表明我們的許多決策不是基於明確或者嚴密的推理

3.3.3. 我們經常做出決定，但無法闡明自己的理由

3.4. 直覺肯定是源自我們隨著時間推移獲取的經驗(要麼是透過進化獲得的經驗，要麼是透過基因傳遞給我們的經驗)，即使我們無法在意識層面上表達出來，這也並非什麼神秘的事情

3.4.1. 計算機可以在經驗中學習，併成為有效的決策者，即使它們也無法清楚地表達自己決策的基本原理

3.5. 中文房間

3.5.1. 哲學家約翰·希爾勒(Joln Searle)

3.5.2. 如果希爾勒的觀點是正確的，那就意味著理解這種能力——強人工智慧所需要的能力——是不能夠透過遵循步驟執行命令產生的

3.5.3. 用傳統計算機是無法實現強人工智慧的

3.5.3.1. 傳統計算機在數學上已經被證明了具有侷限性

3.5.3.2. 有些問題是計算機從根本上就無法解決的，但它們可以被明確界定

3.5.4. 雖然房間裡的人沒有表現出對中文的理解，房間本身也沒有，但包含房間、人、說明書等的整個系統卻有著理解

3.5.5. 中文房間難題，如果從圖靈測試的角度來看，是一種作弊，因為它沒有把房間當作一個黑盒

3.5.6. 只要事實上它所做的事情與理解中文的人類所做的事情毫無區別，即可

3.6. 可計算問題，這一直是人工智慧發展歷程中的一大攔路虎

4. 社交大腦

4.1. 進化理論告訴我們，人體擁有的各種特徵都會給我們帶來進化優勢

4.2. 在一系列著名實驗中，神經科學家約翰-迪倫·海恩斯(Joln-Dylan Haynes)顯然能夠探測到受試者意識到自己做出最終決定的10秒前內心所做的決定

4.3. 有意識的頭腦只不過是我們身體產生各種行為的一種毫無意義的副產品，這一理論被稱為副現象論

4.4. 大腦是一個資訊處理裝置，它消耗了人體所產生能量的相當大一部分

4.4.1. 通常的估算為20%

4.5. 靈長類生物會進化出更大的大腦，是因為它們需要處理更重要的資訊

4.5.1. 考慮到龐大的能量需求，大腦必須產生一些實質性的進化優勢

4.6. 和靈長類生物大腦體積關係最密切的因素是平均社會群體規模，即靈長類生物社會群體中動物的平均數量

4.7. 鄧巴數，公認為150

4.7.1. 人類社會群體的平均規模大約是150人

4.7.1.1. 即一個人擁有穩定社交的上限人數大約是150人

4.7.2. 鄧巴數是一個能引起人好奇心的數字，隨後的各種研究發現，這個數字在人類社會群體實際規模計算中反覆出現

4.7.3. 新石器時代的農業村莊通常大約有150名居民

4.7.4. 最近發現的一個有趣事實是，鄧巴數可以解釋我們在臉書等社交網站上積極接觸的朋友數量

4.7.5. 鄧巴數可以理解為人類大腦能夠管理的人際關係的最大數量

4.7.6. 不少人互動的人數是大於這個數字的，但鄧巴數是我們能夠真正保持的關係數量