斯蒂芬·平克：AI模型是外星智慧一種形式

史蒂芬·平克說，人工智慧模型是外星智慧的一種形式，我們正在對它們進行實驗，就好像它們是某種新發現的有機體一樣。

背景
斯蒂芬·平克（Steven Pinker）是一位著名的認知心理學家、語言學家和科學作家。他生於1954年，是加拿大人，現任哈佛大學心理學教授。他的研究領域涵蓋語言、心智和人類本性，特別關注語言的進化和人類認知的起源。

平克以多部影響深遠的著作聞名，包括：

1. 《語言本能》（The Language Instinct，1994年）：平克在這本書中提出，語言能力是一種與生俱來的生物本能，類似於蜘蛛織網或鳥類築巢的本能。這部作品對語言學和心理學領域產生了深遠的影響。
2. 《心智探奇》（How the Mind Works，1997年）：平克在這本書中探討了人類心智的結構和功能，涵蓋了從視覺感知到情緒的各個方面，提出了許多引人深思的觀點。
3. 《語言本能：對人類語言的探索》（The Stuff of Thought，2007年）：這本書探討了語言如何反映了人類的思維和心理，深入分析了語義學和語用學。
4. 《人性中的善良天使》（The Better Angels of Our Nature，2011年）：平克在這本書中使用大量歷史資料，論證了暴力在歷史長河中逐漸減少的趨勢，提出了文明進步的樂觀論點。
5. 《啟蒙時代的現在》（Enlightenment Now，2018年）：他在這本書中捍衛啟蒙時代的價值觀，如理性、科學和人道主義，認為這些價值觀使得世界變得更加美好。

外星智慧論
斯蒂芬·平克是一位重要的語言學家、認知科學家和科普作家。他說他願意接受“也許人類大腦就像一個大型語言模型”的可能性。

“外星智慧”有點暗示了這一點：

1. 智慧的外源性：雖然AI是由人類設計和建立的，但它們的思維方式和問題解決方法有時會顯得陌生和難以理解，類似於我們可能對外星智慧的期待。AI系統，特別是深度學習模型，往往能夠產生出意想不到的解決方案或行為模式，這種特性使它們看起來像是一種全新的智慧形式。
2. 實驗物件的未知性：在使用和研究AI的過程中，科學家和工程師經常會遇到意外的行為和結果，就像在研究一種新發現的有機體一樣。AI系統在訓練和應用過程中可能會表現出超出其設計者預期的能力或缺陷，這需要研究者不斷進行實驗和調整。
3. 跨學科的挑戰：AI的發展和研究涉及多學科的知識，包括電腦科學、神經科學、心理學、語言學等。這種跨學科的複雜性使得AI研究具有探索未知領域的特徵，類似於對外星生物進行研究時所面臨的挑戰。

網友：
1、人類的大腦只是一臺預測機器，試圖預知未來以提高其生存能力。

• 當你說話時，大腦根據之前說過的話預測應該說的內容，將一個個合理的詞語串聯起來。
• 事實上，大腦中存在一個“語音環路”，並且有神經序列生成器，就像鳴禽唱歌時一樣（合成鏈）。

2、有這樣一個理論：我們的自我意識和自我反思能力的進化，是我們的語言中心變得越來越複雜的副作用。

• 因為我們開始需要在交流時經常區分 "你 "和 "我"，
• 同時也要明白，與你交談的另一個人是他們自己的 "我"，而你對他們來說只是一個 "你"。

3、有一種觀點認為，人類大​​腦並不感知“現實”，而是感知數十億年來最佳化“生存”目標函式的東西，不管它是如何定義的。

4、我們已經訓練了一個基於我們對現實的感知的模型。然而，該模型本身並沒有與我們人類所擁有的特定感知形式內在地、內在地繫結在一起的目標函式。

• 這些模型似乎在“產生幻覺”，而這實際上可能是對現實更“真實”解釋的一瞥。
• 我們的感知不一定是 100% 的黃金標準，以此標準能夠判定什麼是現實和謊言。

5、我們是為了生存而最佳化的，更重要的是為了繁衍：

• 例如，我們看不到整個光譜。我們只能看到三種顏色的可見光譜，但可見光譜中已經有無限多的顏色。這就是為什麼三種不同型別的 LED 螢幕就足夠了。
• 一些擁有四五種光感受器的外星種族會說：“你怎麼能看這個！顏色完全不對。”

6、夢境可以透過重現和重塑過去的經歷來預測未來：

• 萊斯大學和密歇根大學的科學家發現，大腦中的某些神經元不僅可以在睡眠期間重現過去的經歷，還可以預測未來的事件
• 該研究發表在《自然》雜誌上，深入研究了海馬體（記憶和學習的關鍵區域）中的單個神經元如何在靜息狀態下穩定和調整空間表徵。
• 這項研究得到了神經探針和機器學習技術進步的支援，可能會重塑我們對記憶和學習的理解。

7、小孩子夢見被野生動物和怪物追趕的次數比成年人多得多。（也許是編入了我們的 DNA 中？）。
有一種理論認為，這樣做是為了讓孩子做好被野生動物追趕時如何反應的準備，就像石器時代那樣。有點像“心理排練”。

我認為人類的前額葉皮層是一個“世界模擬器”。它有一個世界模型，然後將你的行為投射到未來，這樣你就不必真正去做，而是選擇最好的事情去做。
比如當我向你展示一個捕鼠器並讓你把手指放進去時，你會說“不，謝謝”，因為你在大腦中模擬了手指觸控它、它折斷和疼痛的未來。然後，如果你以錯誤的角度放進去，你的手指可能會被折斷，你要去醫院，然後拍 x 光，你要花錢，而且你的手指一旦痊癒就會變得有點彎曲。而你只要不觸控捕鼠器，或者至少不要以錯誤的角度，就可以避免所有這些問題。我會將手旋轉 90 度，然後將手指直接向前放進去，這樣手指的關節就會垂直而不是水平，而且手指也會得到捕鼠器底部的支撐。好訊息是，我甚至不必嘗試將手指放進去的所有方法。

8、不同之處在於，人類語言是為了處理現實世界的情況而存在的。你不能只說“似是而非”的話，你需要說正確的話，這將有助於你追捕猛獁象或諸如此類的事情。

事實性決定了你應該說什麼。（實踐是檢驗真理的唯一標準）

而對於大模型來說，這只是統計資料。當人類像大模型那樣行事時，我們稱之為胡說八道，而語言的進化並不是為了這個。

9、我曾在一家痴呆症機構工作過，我完全相信人類的大腦本質上也是一個下一個標記的預測器。我認為最好的證據就是這個裂腦實驗的影片：https://www.youtube.com/watch?v=Of01gO_fC1M
看看這個男人因為腦損傷而犯了完全錯誤的事情，然後看看他如何解釋他為什麼會做出錯誤選擇。我們知道這不是原因，但他馬上就給出了一個合理的解釋。
因為大腦就是這樣運作的。如果你缺少資訊，人類大腦會本能地填補空白。
人類感官體驗的每個部分都是如此。你的眼睛裡有一個你無法注意到的盲點，因為大腦只是用生成填充盲點。你可能會失去一條肢體，多年後仍然會有幻肢疼痛。
當平克談到“外星智慧”時，他指的是“奇怪的”或“不同的”，就像你可以將章魚智慧描述為外星智慧一樣。它肯定是智慧，但它是趨同進化的結果，因此它的運作方式與我們自己的完全不同。

10、平克和喬姆斯基這樣的人經常在這個領域被提及，就好像他們在這個問題上有任何權威一樣，在語言和大腦如何運作以及這些模型能實現什麼方面，他們完全站在學術歷史的錯誤一邊。

11、我不知道我是否應該稱它們為某種“外星智慧”，因為它們是對我們的一種非常非常好的模仿。它們並不是真正在思考，只是根據我們訓練它們的大量資料，吐出我們希望它們吐出的東西。這並不重要，因為在這種情況下，經過足夠的開發，模仿者可以變得比真實事物更好，但我覺得說這是一種完全獨特的、全新的思維方式。

在我們打破哲學之前，讓我們先獲得 AGI。

12、平克反對人工智慧，經常犯錯，他不是愛因斯坦的守護神。他的領域是認知/語言/思想，主要是被美化的哲學和智庫廢話，將他與大語言模型或人工智慧聯絡起來來，太牽強了。

不管怎麼說，我讀過他的作品，我曾經認為他很重要，但事實並非如此。他和許多其他人一樣，扼殺了創新和對人類狀況思想的探索，因為沒有人可以質疑他，每個人都引用他的話。

13、每天我都越來越喜歡吃蘑菇，因為它們能帶來迷幻體驗。

• 我認為平克在那次談話中出現了幾次幻覺。
• 成功的面孔和迷幻的面孔可能非常相似。

14、終於有人說人工智慧比人類更加智慧和優越。
儘管你不願意接受，但人類是有限的，我們已經達到了技術進步的頂峰，這是事實。

1. 首先，我們對事物施加了太多的限制；
2. 其次，我們害怕改變。
3. 第三，我們對其他人有偏見，特別是當我們認為他們比我們聰明時。