大語言模型是一個多專家代理系統?

banq發表於2024-04-02

大語言模型GPT-4、Claude 3和Google Gemini 1.5 pro都採用了“專家混合”架構,可能與一種子代理人的想法類似,這是朝著正確方向邁出的一步,人的大腦大概有數百萬個代理人。

1、如何理解Joscha Bach:心靈不是一個單一的代理人
Joscha Bach 是一位認知科學家和人工智慧研究者,他提出了心智的一種理論,認為心智不是一個單一的代理人。

這一理論的核心思想是,人類心智是由多個相互作用的子系統組成的,這些子系統相互競爭和合作,共同構建了我們的意識和行為。

這種觀點可以從以下幾個方面來理解:

  1. 模組化的心智:Bach 認為心智是由多個功能模組組成的,每個模組負責處理特定的認知任務,比如感知、記憶、推理、情緒等。這些模組相互獨立但又相互影響,共同協作完成複雜的認知活動。
  2. 競爭與合作:在 Bach 的理論中,不同的認知模組之間存在競爭和合作關係。它們可能會競爭資源、注意力和控制權,但也會相互合作以實現共同的目標。
  3. 分散式意識:與傳統的單一代理人模型不同,Bach 認為意識是分佈在不同的認知模組之間的。這意味著我們的意識體驗是由多個子系統的活動所組成的,並且並不侷限於單一的中心控制器。
  4. 自組織性:Bach 的理論強調了心智系統的自組織性質。這些子系統並不受單一的控制,而是透過複雜的動態過程相互影響和調節,從而產生了整體上的心智現象。

總的來說,Joscha Bach 的觀點挑戰了傳統的心智模型,強調了心智的複雜性和多樣性。透過將心智看作是由多個相互作用的子系統組成的網路,他試圖解釋人類的認知和意識現象,併為人工智慧領域提供了啟示。

這非常類似:陀思妥耶夫斯基將心靈的次級代理人人格化為《卡拉馬佐夫兄弟》中的主要人物。

2、層次意識:巢狀觀察窗模式:
在我們的經驗中,最重要的是我們擁有統一意識經驗的直覺。

然而,許多觀察結果卻與這一直覺背道而馳:

  • 當我們面對兩種有吸引力的行為選擇時,我們會陷入癱瘓般的猶豫不決;
  • 我們會同時持有相互矛盾的信念;
  • 我們的思維內容往往以內部爭論為特徵。

我們都知道,在一個寒冷的早晨,在一個沒有爐火的房間裡,從床上爬起來是一件多麼痛苦的事情,我們內心深處的重要原則是如何抗議這種折磨的。也許大多數人都曾在某些清晨躺上一個小時而無法下定決心。
  • 我們會想,我們要遲到了,一天的工作會受到怎樣的影響;
  • 我們會說,'我必須起床,這是不光彩的',等等;
  • 但溫暖的沙發還是讓人感覺太舒服了,外面的寒冷太殘酷了,
  • 就在它似乎快要衝破阻力,進入決定性行動的時候,決心卻一次又一次地消失了,推遲了。

在這裡,我們提出了 "巢狀觀察者視窗(NOW)模型",這是一個分層意識框架,在這個框架中:

  • 大腦在多個時空尺度上處理的資訊都會反饋到主觀體驗中。

該模型將思維比作巢狀馬賽克瓷磚的層次結構:
  • 影像由馬賽克瓷磚組成,
  • 而每個馬賽克瓷磚本身也是由馬賽克瓷磚組成的影像。
  • 單元意識存在於這個巢狀層次結構的頂點,在這裡,感知建構得到了充分整合,複雜的行為透過抽象命令得以啟動。

 

相關文章