不僅是工程學！人類認知偏差導致的12個AI研究盲區

大資料文摘出品

編譯：狗小白、張秋玥、Aileen

人類天生存在許多認知偏差，而這對科學進步危害巨大。科學研究傾向於偏好既有研究方法，進而導致許多研究體系中的內在特性被忽略。

因此，研究者很可能不幸花費畢生追索錯誤無意義的方向。回顧歷史，科學長河中充斥著許多後人證明為錯誤因而毫無價值的研究。

Sabine Hossenfelder在她粒子物理學領域中寫過這認知偏差。她在《迷失在數學中(Lost In Math)》一書中探索了一群世上最具天賦的科學家們所具有的認知偏差。

她表示，這些科學家們雖具有優秀的認知能力，但在不懈追求美的道路上，理論物理學家們也走進了科學的誤區，物理學在過去的四十來年內沒出現任何重大突破。她認為，科學的客觀性已屈服於採取具有美學意義的方法論。

這篇文章中，我會探索在人工智慧（或強人工智慧AGI）領域探索過程中存在的類似偏差。

可能存在的偏差之一即是貝葉斯定理的濫用。貝葉斯定理的產生啟發自奧卡姆剃刀定律：“需要假設條件最少的理論解釋最可能是正確的理論。”

因而，許多科學家們忠於他們的職業，並信仰“所有的事情都應該儘可能簡單，但又不過分簡單”的理念。

以上的確是人類理解世界的優秀法則，但也正是Hossenfelder所反對的美學主義。科學研究的重大突破往往依賴於科學家們某個瞬間的第六感，但這些假設不應導致對預感的武斷應用。在此引用Richard Feynman的一句：“無論你的理論多麼美妙，你又有多麼聰明，但如果與實驗結果相佐，你的理論就是錯的。”

在此我想談一談大部分（強）人工智慧研究者總是忽視的12個事實：

1.直覺

認知心理學家們早已確定，人類認知的運作依賴於兩種獨立的認知方式，這就是雙過程理論。直覺思維與理性意識互為競爭又相互協作，支援著人類認知。老式的人工智慧的失敗可追溯至當時對人類認知主要基於理性認知系統的理念，雖然諸多證據表明並非如此。直覺認知系統才是驅動所有人類認知的本質發動機，人類認知普遍採用“分期推斷”。

2.睡眠

大自然要求睡眠占人類生命中一個不小的部分。缺覺會導致認知障礙，最終可能致死。至少有實證證據表明，睡眠對認知發展具有重要意義。但不幸的是，很多研究者忽視了人類“待機狀態下的”認知發展。而事實上，人類掌握抽象概念的能力很可能是在睡眠過程中成長的。

3.不全面的呈現

很久以來，科學家們都試圖找到內部心理的生成呈現出外部世界的存在，因此，老式的人工智慧建立符號模型來倒映外部世界的語義。深度學習訓練網路學習對世界的內部呈現，這個內部呈現在一個連續的高維空間反應出觀察結果的語義。這個空間則允許諸如理性、相似性比較之類的操作。

這有兩個問題：第一個問題是內部呈現丟擲了更深層的問題，繪製外部真實世界的內部呈現仍需要一些用以理解內部呈現的東西。第二個問題是，我們其實只關注我們觀察到的世界裡的其中一小部分。認知盲區是存在的，不像機器那樣能夠留下圖片般的呈現，我們只關注很小一部分的圖景，其它部分靠想象。James Gibson在他生態認知的理論中描述了另一種基於可供性的呈現，也即大腦僅僅捕獲環境中可能存在的而非環境真實的反映。

4.靈敏度

我們是如何僅靠觸控來分辨一個物體的？我們是如何靠摸就能辨認出棕色袋子裡的蘋果？很明顯，感知並不僅靠現實世界的一張快照，而是由多角度的快照組合成一個前後一致的統一。人類擁有異乎尋常的靈巧的手，也許正因此我們才有了高階認知能力。我們對世界有更好的呈現，也許是因為我們與世界的參與度更高，且能夠更好地分辨不相干資訊。但在如今的研究中，卻很少涉及認知方面的探索，以及一體化機制。

5. 有限的理性

人類並非全然的理性動物。大多數人無法同時處理五個以上的事情，幾乎所有人都無法探索三層以上的遞迴資訊。但大部分諸如AIXI、梭羅莫諾夫感應、符號計算和機率推理等AGI的議題都要求全然的理性。我想表達的是，簡單啟發式思維也許就是驅動人類思考的全部了，我們並不需要求助於優雅的數學方法。研究者傾向於從他們的“武器庫”裡取出那些數學工具來用，於是，要麼把問題複雜化了，要麼就是由於人類認知能力的問題而選錯了工具。莫羅夫複雜度(Kolmogorov complexity) 是一個衡量複雜度的有趣的公式，但這個方法幾乎沒可能與人類的有限理性卻完全的智慧程度有任何相關性。

6.描述性模型v.s.生成性模型

Daniel Dennett將革命和圖靈機器人描述成“不能思考的技能擁有者”，因為他們擁有相當的能力來完成很多複雜的流程，但卻不明白為什麼這麼做。當然這也是眾所周知了。但這迷惑了許多不能理解複雜設計怎麼能從非智慧中生成的人們。我懷疑這是因為人類的認知偏差要求從混沌中找出規律，從而找到內在的設計。

關於現實的數學模型或邏輯模型都是描述性模型。這意味著，科學家們透過恆定的定律來分辨世界中的規律，而這些定律被視為現實世界的縮影描述。但是，描述性模型並非現實世界的本質，它們只不過是從複雜生成行為中觀察出的規律。

即使不存在規律，人類也還是努力去尋找聯絡。我們看著天上的雲，以為看到復活節兔子。但變化多端的雲彩並非有意幻化成復活節兔子的樣子，這是人類尋找世界規律過程中的一個主觀臆斷。這意味著，對世界的描述性模型至多隻是在歸納現實行為中的特點，但並非是生成式模型。因此，如同機率模型等描述性模型模擬情景模擬得再好也只是模擬，與生成式模型不同。此外，“停機問題”意味著，透過觀測的描述性模型來發現真實的生成式模型是不現實的。

7.生成自遠離均衡過程

生成性而非描述性的規律究竟緣何而起？熱力學的第二定理表明了萬物傾向於混沌。混沌在此指的是一個測量單位，也即熵值，描述了我們無法從觀測中找到描述性的規律。Ilya Prigogine表示，遠離均衡的狀態下才能找到規律。而現今的機器學習方法論的問題在於，運用的數學總是假設一定的均衡狀態。

然而，我們還是不能僅僅考慮自我管理的功能。認知能力會不斷透過一個層層巢狀新出現能力的程式來鍛鍊提升自己。新出現問題的一項數學上的缺陷是，它無法被預先計算出來。這是因為每一項新出現的能力都會使可能組合的數量大大增加，而同時一些先前未知的事件變得已知。人類科技創新既是對此的直觀描述。在全球資訊網被發明之前，誰能想象到谷歌的今天呢？

8.主觀性

認知模型中最容易被忽視的資訊之一則是關於自身的資訊。所有生物學上的反應都與生物自身原始概念相關。也就是說，生物們的行為都由其生存與繁衍的基本目標驅動。所有的生物學原理都由這種維持自我邊界的概念所驅動。因此當我們開始探索更高階的存在（比如我們自己）的時候，我們必須在模型中囊括自我的概念。這樣做將導致自我模型需要被嵌入於某生態系統中。一個有認知的個體必須與能夠意識到自我行為以及其行為如何與生態系統所互動的第一人稱視角模型相結合。

9.奈米意向性

最簡單的生物細胞中都存在維持自我的複雜認知行為。Michael Levin的研究表明，在缺少中央神經系統時，形態發生過程中會需要複雜的認知（也即生物電計算）。這個觀點大大扭轉了我們針對人類大腦建立的描述性模型。如果每一個神經元都與真核細胞擁有一致的複雜行為，那麼深度學習發現的協調操作模型可能並不足以捕捉基本能力（比如協調能力與自我修復能力）。

10.非靜態認知模型

我們目前擁有的認知模型均為靜態模型，並且適用於單件任務。然而，若想實現生物學級別的協調適應性，我們的認知模型並不能為靜態模型；它們需要變得連續、及時並且可對話。我們需要最適合的啟發式演算法支援的持續場景切換以保證模型隨著生態系統變化而調整。

結構是如何在一個複雜且動態的生態系統中被儲存的呢？生物個體能夠自我調節，擁有許多有意圖的成員的生態系統也能夠自我調節——存在防止事物偏離平衡點的更高一層機制。這將會是允許我們跟蹤複雜對話的那項機制嗎？

11.集合而非個體

自我模型不能與其成長的生態分離。實際上，各項能力基本只能在與其成長的生態非常不同的環境中被培養出來。比如，生命需要氨基酸、DNA與脂質。這三項物質到底是如何各自進化成為互相必不可少的成分呢？它們很可能在不同的生態系統內各自進化直到在目前的生物圈內進入一個協同關係。總體來說，生命無法脫離其歸屬的生態系統。這可能也意味著，高階認知能力——比如語言能力——無法脫離人類存在的文化環境而成長。人們並非與生俱來地擁有語言能力，而是我們獨特的文化教育了我們語言能力。

12.產前發展與幼態持續發展

你有思考過為什麼哺乳動物（比起更為原始的有袋類動物）會使其後代在子宮中發育嗎？ 你知道人類嬰兒會在離開子宮真正出生之前數週就已擁有完整的認知能力了嗎？我們假設人類認知發展在出生之後才開始，然而實際上關於它在出生之前就已開始的證據非常充足；也正因於此，許多母親與世界的反應與互動反映在她子宮中的孩子身上。孩子在子宮中學到了什麼呢？

另一項人類的獨特之處在於，比起其他生物我們保持孩童外表的時間相對較長。2.5歲至3歲的人類與大猩猩認知水平類似。動物保持年幼外表的這一特性被稱為幼態持續。以狗類為例，相較其狼類表親，它們保持較大的眼睛、鬆弛的耳朵以及更短的鼻吻。蠑螈在其整個”人生“中都保持其嬰兒時期的狀態；他們擁有一項驚人的能力——重新長出其身體的一部分。

一項近期研究表明，在人類體內299項與年齡相關的基因中，有40項基因在人生後期才會被表達。實際上，為大眾所知，成熟相對較快的人類會喪失部分認知能力。保持年輕確實對認知能力有好處。年輕人擁有比成年人更強的腦可塑性；更久地保持年輕能夠使人們擁有更多時間來發展那些從社會中獲得的認知技能（即模仿能力、語言能力與共情能力）。

人類可能比其他物種更有智慧是因為我們保持了更久的好奇與探索心這樣的學習能力。

這最後一點旨在告訴你，那些僵化的學習策略——比如依賴於其”武力、宗教或仇恨“的策略——是很難創新的。而那些試圖探索新道路的則是最可能發掘出新事物的策略。

敲黑板總結一下！

你可能已經注意到了，這些盲點之間相互聯絡。它們並非毫不相關；結合在一起，它們為前沿AGI研究揭示了一種新穎的完整角度。上文有趣之處在於它與常見的過度注重技術問題的那些AGI研究截然不同。這可能是由大多數STEM課程帶來的認知偏差導致的。

你不能搭建空中樓閣式的AGI模型；相反，你得從根基開始搭建——這意味著你得一步步培育它。因此我們需要一種自然而有邏輯的方法。儘管，”成長智慧“這一概念看起來顯而易見，其實有大量研究者堅持走相反的道路（非常令人吃驚！）。很多人都有這樣的偏見：AI就是工程學。而實際上它與心理學與生物學更為相關。

在Beyond Efficiency一文中，Dave Ackley討論了為什麼我們的計算系統如此脆弱這一問題。他認為這應歸咎於”只能正確、只能高效“的心態。經常發生的電腦保安漏洞告訴我們，我們應當在其中應用生物學告訴我們的魯棒性知識。Ackley怪罪於我們沒有強調”系統性思考“。

系統性思考著重於一種關注結構的整體性方法；這與控制論相關（控制論學習控制、反饋、管制與互動）。高階AGI將需要我們更好地理解人類認知，以及對生物學複雜性的認識。因此我將在這裡重述Arthur C. Clarke關於科技的名言。更精確地說這句話將為：任何足夠先進的科技都與生物學密不可分。

相關報導：