大模型與生成式AI有本質區別

banq發表於2024-06-03

 大語言模型LLM突出了”語言“,但是人們存在對”語言”認知偏見,以為語言就是修辭、寫作或交流或說服別人。

大語言模型與生成式AI關鍵區別是:

  • 大語言模型LLM強調了基於”語言即思想“的哲學前提,透過語言上下文分析能夠實現通用人工智慧AGI。
  • 而AIGC只是強調生成式,至於是否根據人類語言來生成,並沒有突出強調,AIGC突出了LLM背後的Transformer架構:轉換、生成,AIGC這個詞語偏重技術和中性,沒有突出如何超越人類智慧,是一種各種技術的中庸稱呼,

為什麼突出人類語言很重要?
如果不理解這點,就無法理解為什麼LLM是一條開啟了通往AGI的道路。

至於語言為何通往通用智慧,這涉及到兩個認知轉變:

  • 第一步:語言代表思想,這個認知提升很難,因為中國語言很多是情感、道德表達,而不是邏輯語言,當維特根斯坦提出”語言遊戲“以後,人類才開始基於語言進行演繹分析哲學,催生了形式邏輯的大發展
  • 第二步:語言只是思想意識層面的表達,為何能跨越實踐客觀事物?語言不只是思想精神表達,其實已經是主觀與客觀的綜合。為了理解這點可先搞清楚大模型的”幻覺“。

大模型為何出現幻覺:
大模型出現很多幻覺正是這個道理,因為它們不知道一個詞真正指向什麼實體,其實人類因為有五官,以為自己能夠鑑別真實與謊言幻覺,其實這本身也是一種人類幻覺,人類自身問題是會被自己的思想洗腦成一種特別型別的智慧。

因此,我們不能用人類智慧為標準去判斷可能來自外星智慧的大模型。

  • 奧特曼表示:AI 是外星智慧的一種形式,但 OpenAI 正在將其設計得儘可能與人類相容

下面附件中是相關資料,這兩個認知提升需要個人耗費很長時間,如同爬山,有可能一個人一輩子就停留在了半山腰。

通往AGI通用人工智慧的三個認知境界

  1. 康德:客觀世界不可知:不要以為你用“客觀”這個詞語代表宇宙世界,你就以為你掌握了所有宇宙真理,除非你是上帝。
  2. 維特根斯坦:語言是客觀世界的邊界:只有用人類語言表達出來的宇宙世界才是我們認為的客觀世界,例如用科學論文表達,用計算機語言表達。
  3. 遞迴計算:對系統進行限制(上下文的上文、邏輯前提、假設前提,這些都是一種限制、約束,限定上下文),使其發出的任何資訊都能折回自身,你就能獲得遠超限制的創造性輸出(如萬花筒裡的千變萬化圖案,都是光線在幾個鏡片之間折射,折射是一種約束性發光)。 這就是為什麼數學加計算遠遠超越了數學的形式主義。

這就是為什麼人工智慧不是統計學,也不是 "預測下一個符號":AI之父:大模型不僅僅是預測下一個符號

這就是為什麼"人工智慧無法達到人類智慧水平"論點是錯誤的:另外一個AI之父楊立昆認為:機器智慧首先需要首先達到貓狗智慧,然後才能達到人類智慧。
在他上下文前提條件中,假設貓狗智慧是低於人類智慧。這從事後的結果看是正確的,但是如果我們是從頭開始建立智慧,可能就不能以這種事後觀察的結果順序來建立了事物本身:什麼是科學:楊立昆 vs. 馬斯克

這就是為什麼沒有結構的生活不如純粹自主的生活自由:王陽明“本自具足”
自然界中的限制並不決定你從系統中得到什麼,它們建立了一個孕育創造的遞迴框架。(道德經 中反覆在敘述這個道理)

知識普及
下面是國產大模型Kimi的簡單概況,用於知識普及:
生成式人工智慧AIGC和大語言模型LLM雖然有一定聯絡,但它們是兩個不同的概念。
生成式人工智慧
生成式人工智慧是一種能夠建立新內容(如文字、影像、音訊等)的人工智慧技術。它透過對大量資料進行學習,掌握相關領域的模式和規律,從而生成新的、原創性的內容。生成式AI的目標是生成新內容,而不僅僅是識別或分類現有內容。它可應用於多個領域,如自然語言生成、影像/影片生成、音樂創作等。

大模型
大模型(LLM)指透過大規模資料和計算資源訓練出的龐大神經網路模型。這些模型具有數十億甚至上萬億個引數,能夠學習到豐富的知識和語義資訊。大模型本身不專注於生成新內容,而是作為一種通用的基礎模型,可用於各種任務,如自然語言處理、計算機視覺等。著名的大模型有GPT-3、DALL-E、PaLM等。

兩者區別

  1. 目標不同:生成式AI專注於生成新內容,而大模型是通用的基礎模型。
  2. 應用領域不同:生成式AI應用於內容生成,大模型可用於多種任務。
  3. 模型規模不同:生成式AI模型通常較小,大模型擁有數十億甚至上萬億引數。

兩者聯絡
  1. 大模型可作為生成式AI的基礎模型,透過微調等方式用於生成新內容。
  2. 生成式AI技術的發展推動了大模型的應用,大模型也為生成式AI提供了強大的基礎能力。

因此,生成式AI和大模型雖然有區別,但它們在實踐中存在密切聯絡,相互促進發展。生成式AI可以利用大模型的能力,而大模型也為生成式AI提供了基礎支撐。
 

相關文章