通用人工智慧導航：AGI的歷史與現狀

在主流人工智慧領域，深度學習（Deep Learning）近年來取得了突破性進展，再次點燃了人們對“類人”AI的希望之火。“圖靈測試已被逾越”的宣稱以及AlphaGo在圍棋人機對弈中的勝出使得“何為及如何實現人工智慧”討論成為熱點。然而，目前上述問題非但沒有共識，反而愈加眾說紛紜。一些企業巨頭喊出“向AGI進軍”的口號，但沒有任何一家公佈了路線圖或總體設計的詳細細節。其實，他們的思路無非是對深度學習進行擴充套件或是對現有AI技術進行整合，而這兩條路線已經被許多AGI研究者所挑戰。

部分地受近期進展的激發，越來越多的人認為AGI（或類似的目標）確實有可能實現。結果是，AGI的風險和安全成為了時下的熱點問題，有些事件更是引發了媒體的關注：

·Research Priorities for Robust and Beneficial Artificial Intelligence：an Open Letter from the Future of Life Institute

·The discussion raised by the Edge 2015 question：What Do You Think About Machines That Think?

·Superintelligence：Paths，Dangers，Strategies by Nick Bostrom

·Elon Musk and co-founders established a non-profit research company OpenAI

作為近期發展的一個結果，同時也為了紀念達特茅斯會議60週年，Joint Multi-Conference on Human-Level Artificial Intelligence會議於2016年舉行，其中包括AGI年會作為組成部分。該聯合會議在2018年再次召開。

2 AGI基礎

每個AGI研究者都必須回答下列基本問題：

1.AGI具體指的是什麼？

2.這種AGI真的有可能實現嗎？

3.如果AGI是可能的，什麼途徑最靠譜？

4.即使我們知道如何實現AGI，真的應該去做這件事嗎？

【我個人的回答請見這裡】

下面總結AGI領域中對上述問題的主要答覆。

2.1 何為AGI

籠統地說，通用人工智慧（AGI）的研究具有下列特點：

·強調智慧的通用性特質

·持有整體或綜合的智慧觀

·相信打造可媲美人類智慧的AI的時機已經成熟

因此，“AGI”更接近“AI”的初始意義，而與當前聚焦於領域相關或問題相關手段的主流“AI研究”極其不同。“AGI”與“強AI（Strong AI）”、“類人AI（Human-Level AI）”、“完全AI”、“思維機器（Thinking Machine）”、“認知計算（Cognitive Computing）”等概念更加相似。

AGI研究包括科學（理論）與工程（技術）兩個方面。一個完整的AGI成果通常包括：

1.關於智慧的理論

2.該理論的形式化模型

3.該模型的計算機實現

儘管當前的AGI專案都有在計算機中完整實現“智慧”的共同願景，它們的具體目標卻並不相同。所有的AGI方案都以人類智慧作為靈感之源，卻仍對“智慧”做不同的解讀。其結果是各個AGI專案試圖在不同的抽象層次上覆制人類智慧：

·結構派

基本理由：既然智慧是人腦的產物，那麼建造智慧計算機就該儘可能模擬人腦結構

理論背景：神經科學和生物學等

典型代表：HTM，Vicarious

主要挑戰：有太多生理細節既不可能也無必要在AI系統中複製

·行為派

基本理由：智慧表現為人類的外在行為，所以只需讓計算機表現得與人一樣即可

理論背景：心理學和語言學等

典型代表：Turing Test，cognitive model

主要挑戰：有太多心理和社會因素既不可能也無必要在AI系統中複製

·能力派

基本理由：人們通常以問題解決能力來評估智力，因此智慧系統要能夠解決那些現在只有人腦才能解決的問題。

理論背景：領域知識指導下的計算機應用

典型代表：AlphaGo，expert system

主要挑戰：缺乏對智慧問題的界定，專用解決方案的通用性和靈活性不足

·功能派

基本理由：智慧是諸如感覺、推理、學習、行為、交流、問題解決等認知功能的總合。因此，在計算機中分而治之地實現這些功能就能夠實現智慧。

理論背景：電腦科學

典型代表：主流AI教材，Soar

主要挑戰：現有AI技術相當碎片化與僵化，難以有效整合。

·原則派

基本理由：智慧是一種理性或最佳化。智慧系統應該總是能夠按照某種原則而“做正確的事”。

理論背景：邏輯學和數學等

典型代表：AIXI，NARS

主要挑戰：智慧和認知中的影響因素太多，以至於難以被一種理論解釋或生成。

自上而下，上述派別對人類智慧的描述越來越抽象，而其相應的計算機實現也體現了這些不同的抽象層次。由於對智慧的不同描述具有不同的粒度和範圍，儘管各個派別的目標相關，但依舊差異明顯且相互不相容。實現其中某一目標的最優方式卻往往對其他目標的實現幫助有限。[更為詳細的討論請見這裡]

由於研究目標的多樣性，雖然AGI研究者進行了多方協作嘗試，當前在AGI學界仍沒有被普遍認可的評價標準（如必經階段或基準測試）。

2.2 侷限與質疑

自從人工智慧或“思維機器”的想法出現，人們對其可能性的各種質疑聲便不絕於耳。一些人聲稱他們已經證明，受制於計算機的某些基本限制，AGI或之類的東西理論上都是不可能的。

許多研究者批評了這些反對意見，重要觀點可參見於以下著述：

·《計算機器與智慧》（Computing machinery and intelligence），圖靈（Alan M. Turing）

·《哥德爾、埃舍爾、巴赫：集異璧之大成》（Gödel，Escher，Bach：An Eternal Golden Braid），侯世達（Douglas R. Hofstadter）

顯然，AGI研究者們都相信AGI可以實現(儘管他們對該術語有不同的解釋)。在2006年AGI 研討會文集的序言中，我和本·戈策爾（Ben Goertzel）回應了下列常見質疑和反對意見：

·AGI是不可能實現的

·不存在一般性的智慧

·通用系統不如專用系統有用

·AGI已經包含在當前的AI中

·現在研究AGI還為時過早

·AGI只不過是炒作

·AGI研究沒有實質進展

·AGI是危險的

有些對AGI可能性的質疑源於對AGI試圖做什麼或計算機可以做什麼的誤解。前一小節澄清了前一個問題，而對後一個問題的分析可以在這裡找到。

2.3 策略與技術

一方面，AGI的最終目標是將智慧作為一個整體進行再現，而另一方面，工程實踐必須循序漸進。解決這個矛盾總體策略有三種：

·混合策略

方法：使用不同的理論和技術逐個實現單獨的功能，然後將其關聯起來。

觀點：(AA)AI：More than the Sum of Its Parts，Ronald Brachman

難點：各種理論和技術的相容性

·整合策略

方法：首先設計一個體繫結構，再使用不同的技術實現各個模組。

觀點：Cognitive Synergy：A Universal Principle for Feasible General Intelligence？，Ben Goertzel

難點：功能間的離解、規範與協調

·統一策略

方法：使用同一種技術從核心系統開始逐步擴充套件和擴充。

觀點：Toward a Unified Artificial Intelligence，Pei Wang

難點：核心技術的通用性和可擴充套件性

顯然，開發策略的選擇在一定程度上取決於研究目標的選擇。

目前，AGI專案中使用的包括但又不限於以下主要技術：

·邏輯

·機率論

·產生式系統

·圖論

·知識庫

·學習演算法

·神經網路

·進化計算

·機器人

·多主體系統

雖然這些技術也都在主流人工智慧中得到了探索，它們在通用系統中的設計和實現細節仍是非常不同的。

2.4 AGI的倫理問題

即使我們已經找到了實現AGI的方法，也並不意味著我們一定要把它造出來。與所有重大科學發現和技術突破一樣，AGI有可能徹底改變我們的生活甚至人類的命運，或吉或兇——或者就像通常情況下，是二者的混合。

AGI研究人員意識到了他們在這個問題上的責任，儘管他們中的大多數人認為，根據現有的證據，AGI研究的進展將使人類受益，而不是毀滅人類。對AGI“安全性”的討論一開始就是AGI會議議題的一部分，如：

·AGI-08包括了一個關於The Sociocultural，Ethical and Futurological Implications of Artificial General Intelligence的研討會

·AGI-12是由牛津大學Future of Humanity Institute聯合贊助的。在這次會議上，許多論文討論了倫理和道德問題

當然，許多關鍵問題仍未圓滿解決，但要找到解決方案，應該加快而非放緩AGI的研究。需要再一次強調的是，目前一些關於AGI廣泛傳播的擔心和恐懼是基於對AGI性質的誤解。【我自己的宣告在此】

3 AGI的代表性專案

下面的專案被選出來代表當前的AGI研究，因為它們都滿足三個條件：

1.明確地面向AGI（這就是為什麼IBM的Watson和谷歌的AlphaGo並不在其中）

2.目前仍活躍（這就是為什麼其中不再包括Pollock的OSCAR和Brooks的Cog）

3.有大量已發表的技術細節（這就是為什麼很多新近的AGI專案並不在其中）

3.1 專案概要

下列專案按字母順序列出。專案名帶有該專案網站的連結，其後的介紹摘錄自專案網站。引文的重點是研究目標（第一個問題）和技術路徑（第三個問題）。所選的兩份關於該專案的出版物，其一為概述，其二是詳細說明。

·ACT-R[An Integrated Theory of the Mind；The Atomic Components of Thought]

ACT-R是一種認知結構：一種模擬和理解人類認知的理論。致力於ACT-R的研究者竭力瞭解人們如何組織知識併產生智慧行為。隨著研究的持續，ACT-R越來越接近於一個能夠執行全部人類認知任務的系統：在細節上探查我們對世界的感知、思考和行動的方式。

從外部看，ACT-R像是一種程式語言；然而，它的結構反映了對人類認知的假設。這些假設基於的是心理學實驗中所發現的大量事實。類似一種程式語言，ACT-R框架可用於不同的任務（如河內塔、記憶或單詞列表的記憶、語言理解、通訊、飛行器控制），研究人員建立用ACT-R編寫的模型（aka程式），除了結合ACT-R的認知觀，還可以對特定任務新增其他假設。於是，可以透過比較相同任務模型執行的不同結果來驗證這些假設。

ACT-R是一種混合認知架構，其符號結構是一個產生式系統；亞符號結構由一組大量的並行過程組成，這些過程用許多數學方程來刻畫。亞符號方程用於對多個符號過程的控制。例如，如果有多個執行結果匹配快取的狀態，亞符號效用方程會估算與每個執行相關的相對成本和收益，並選擇效用最高者來執行。類似地，從陳述性記憶中能否（或多快）提取某個事實，則取決於亞符號檢索方程，該方程考慮了該事實的情境及使用歷史。亞符號機制也負責ACT-R中大多數學習過程。

·AIXI[Universal Algorithmic Intelligence：A mathematical top->down approach；Universal Artificial Intelligence]

一個重要的發現是，智慧的絕大多數方面（如果不是所有已知的）都可被解釋為目標驅動，或者更具體地說，是一些效用函式的最大化。

如果已知真實環境的先驗機率分佈，序貫決策理論從形式上解決了不確定世界中的理性主體問題。Solomonoff的通用歸納理論從形式上解決的是先驗分佈未知情況下的序列預測問題。將這兩種觀點結合起來，得到一個無引數約束的通用的人工智慧理論。我們有充分理由認為AIXI模型可能是最具智慧且無偏差的。

AIXI模型的主要缺點就是它的不可計算性，……這使得其不可能被實現。為了克服這個問題，我們構建了一個改進的AIXItl模型，它比任何其他的時間和長度受限的演算法都更加有智慧。

·Cyc[Cyc：A Large-Scale Investment in Knowledge Infrastructure；Building Large Knowledge-Based Systems]

海量的常識知識代表人類對現實的共識，人們試圖對其編碼而構造出一個通用性的人工智慧系統。為了模仿人類推理，Cyc需要有關科學、社會文化、自然氣候、貨幣金融系統、醫療衛生、歷史、政治以及人類經驗的許多其他領域的背景知識。Cyc專案團隊預計將編碼至少100萬個橫跨這些及其他領域的事實。

Cyc知識庫（KB）基於大量基本人類知識的形式化表徵：日常生活中物體和事件的事實、經驗法則和啟發式推理。表徵的媒介為形式化語言CycL。知識庫KB由術語（構成CycL的詞彙表）和與之相關的斷言組成，這些斷言包括簡單的基本斷言及規則。

·HTM [Hierarchical Temporal Memory；On Intelligence]

Grok諸模型的核心為皮質學習演算法（CLA），它是大腦皮層中細胞層次的一個詳細而真實的模型。與一般觀點相反，大腦皮層不是一個計算系統，而是一個記憶系統。當你出生時，大腦皮層有結構，卻並無知識。你透過從感覺輸入流中建立世界模型來了解這個世界。從這些模型中，我們進行預測、發現異常並採取行動。

換句話說，最好將大腦描述成一個把預測轉化為行動的預測建模系統。大腦皮層的三個主要工作原理則是：稀疏的分散式表徵、序列記憶和即時學習。

·LIDA [The LIDA Architecture； LIDA Toturial]

LIDA概念模型旨在成為一個認知的“萬物理論”，它運用和吸收了許多心理學和神經科學的認知理論。具有感知、工作記憶、情景記憶、“意識”、程式性記憶、動作選擇、知覺學習、情景學習、思考、意志和非常規問題解決等多種模組或過程，LIDA模型特別適合作為AGI探討、設計與比較的可工作的原型。LIDA的技術基於LIDA認知迴圈，這是一種“認知原子”。更基本的認知模組在每個認知週期中都起著作用，高層處理則在多個迴圈中執行。

LIDA架構中節點和連結代表可感知的實體、物件、類別、關係等...…作為感知符號，它們在LIDA諸模組中共同的資訊流。

·MicroPsi [The MicroPsi Agent Architecture；Principles of Synthetic Intelligence]

MicroPsi代理架構描述了代理間的情緒、動機和認知的互動作用，主要基於Dietrich Dorner的Psi理論。Psi理論涉及情緒、知覺、表徵和有限理性，該理論與電腦科學中代理的討論關係不大，更多遵從的是心理學框架。MicroPsi是對原有理論的一種更抽象、更形式化的表述，同時也深化了記憶、構建本體類別和注意等概念。

代理框架使用叫做節點網的語義網絡，它是控制結構、計劃、感覺和動作模式、貝葉斯網路和神經網路的統一表示。因此，在同一框架內建立不同型別的代理是可能的。

·NARS [From NARS to a Thinking Machine；Rigid Flexibility：The Logic of Intelligence]

與傳統推理系統的不同之處在於，NARS從自身的經驗中學習，在知識和資源不足的情況下仍能工作。NARS試圖統一解釋和復現諸如推理、學習、規劃等多種認知功能，從而為整個人工智慧提供大一統的理論、模型和系統。研究的最終目的是構建一個思維機器。

NARS的開發採用增量方法，包括四個主要階段。在每個階段中，邏輯都被擴充，而使系統的語言表達更為豐富、語義更加豐滿、推理規則更為多樣；然後再相應地調整記憶和控制機制，使其支援新的邏輯。

在NARS中，“推理”被擴充套件為一種系統根據過去預測未來的能力，透過領域無關的方式將合理的小步驟整合到宏觀行為中，而用有限的資源供給來滿足無限的資源需求。

·OpenCog [An Overview of the OpenCogBot Architecture；Engineering General Intelligence，Part 1 and Part 2]

作為一個軟體框架，OpenCog的目標是為科學家和軟體開發人員提供一個共同的平臺來構建和共享人工智慧程式。OpenCog的長期目標是加快發展有益的AGI。

OpenCogPrime是在OpenCog框架內實現的一個特殊的AGI設計。它提供了一個涵蓋智慧方方面面的極為具體和全面的設計。其假設為如果該設計在一個合理大小的分散式網路上得到充分的實現和測試，結果將產生一個具有人類水平並最終超越人類的通用智慧的AGI系統。

雖然基於OpenCogPrime的AGI系統可以做很多事情，但是我們最初關注的是使用OpenCogPrime來控制虛擬世界中簡單的虛擬代理。我們也在試驗用它來控制Nao的人形機器人。有關一些演示影片，請見http://novamente.net/example。

·Sigma [The Sigma Cognitive Architecture and System；The Sigma Cognitive Architecture and System]

這項工作的目標是開發一個足夠高效、功能簡潔、認知通用、整體統一的認知架構來支援虛擬人（希望是智慧代理/機器人——甚至也是一種人類認知的統一性理論的新形式）。

我們關注的重點是Sigma（∑）架構的開發，從而探究了圖形架構假設，即目前的進展取決於融合過去30多年來對認知架構和圖形模型獨立開發所獲得的經驗，這是一種廣泛應用的最先進的構建智慧機制的形式主義。結果是，使用一種混合（離散+連續）雜糅（符號+機率）的方法，在記憶和學習、解決問題和決策、心理意象和知覺、言語和自然語言、情感和注意等多個方面取得了初步成果。

·SNePS [The GLAIR Cognitive Architecture；SNePS Tutorial]

SNePS的長期目標是理解智慧認知過程的本質，研究方法則藉助於可計算的認知代理的開發和實驗，這些認知代理能夠使用和理解自然語言、推理、行為和解決各種領域的問題。

SnePS的知識表示、推理和行為系統具備一些特點：能夠增進基於SNePS的代理中的元認知。最明顯的一個事實是，命題用詞項而非邏輯語句來表達。好處是，命題可以作為命題論證、行為和策略無限制地出現，而不會脫離一階邏輯。

·Soar[A Gentle Introduction to Soar；The Soar Cognitive Architecture]

智慧的終極目標是完全理性，這意味著在遇到的每項任務中系統都能使用所有可用的知識。不幸的是，由於檢索相關知識的複雜性，隨著知識體系的增加，任務變得更加多樣化，系統響應時間要求更加嚴格，導致該目標無法實現。目前所能實現的最佳方案是完全理性的近似。Soar的設計就可以看作是對這種近似的努力。

多年來，Solar一個次要的原則是應該儘量減少不同構建機制的數量。在Solar8中，只有一個處理所有任務和子任務（問題空間）的單一框架，一個用於永久知識（產生）的單一表示，一個用於臨時知識（具有屬性和值的物件）的單一表示，一個用於生成目標（自動子目標）的單一機制，以及一個用於學習的單一機制（組塊）。我們重新討論了這個假設，因為我們在不降低任務效能的情況下，試圖實時捕獲所有可用的知識。由此，產生出多種學習機制（組塊學習、強化學習、情景學習和語義學習）以及長時知識的多重表徵（過程性知識、語義性記憶和情景性記憶的產物）。

Solar設計的另外兩個指導原則是功能和效能。功能包括確保Soar具有實現人類使用的全部認知功能所需的基本功能，包括但不限於反應性決策、情境感知、精細推理和理解、計劃以及各種形式的學習。效能涉及確保Soar具有執行基元操作的有效計算演算法，範圍涉及從長期記憶中檢索知識到制定決策，再到獲取和儲存新知識。

3.2 粗略分類

根據對之前第一個問題（研究目標）和第三個問題（技術路徑）的回答型別，上述AGI專案粗略的分類如下表所示。

目標\路徑	混合	整合	統一
原則派			AIXI，NARS
功能派		OpenCog	Sigma，SNePS，Soar
能力派			Cyc
行為派		LIDA，MicroPsi	ACT-R
結構派			HTM