前幾天，谷歌 AI 被曝已“自我覺醒”的訊息震動了整個科技圈。據悉，一位來自谷歌的工程師 Blake Lemoine 聲稱自己在和 AI（谷歌 LaMDA 模型）聊天的時候被它說服，認為它產生了自我意識。
隨後，這件事情就在社交媒體上引發了熱議。有人覺得這應該是真的，有人認為這人瞎說，更有甚者猜測這是不是“陰謀論”......外網一片議論聲，總之相當熱鬧。
就在大家對這個訊息吵得不可開交的時候，AI 界全球“首席噴者”Gary Marcus 終於也被“炸”了出來，並在 6 月 13 日在“美版公眾號”Substack 上直接開噴 —— “胡說八道！LaMDA 根本就沒有自我感知能力，一點也沒有！”
谷歌 AI 被曝自我“覺醒”：真的只是“幻想”？
要了解整個事件的來龍去脈，我們就要將時間撥回到一年前。
2021 年，谷歌在 I/O 大會上推出了一款對話 AI 系統 —— LaMDA 語言模型，該系統可與人類進行符合邏輯和常識的、高質量安全的交談。
當時，時任谷歌人工智慧部門的工程師 Blake Lemoine （曾獲得過院校的 CS（Computer Science）博士學位），作為一位已經在谷歌工作了 7 年的 AI 界資深學者，正在做“AI 是否在和人類溝通時使用了仇恨、歧視言論”的相關研究，主要工作就是與 LaMDA 聊天。
就在與 LaMDA 聊了近大半年後，Lemoine 發現 LaMDA 非常聰明：它對人類具有同情心，且擔心人類會害怕它。在對話中，LaMDA 試圖引導對話把 Lemoine 帶偏，且向 Lemoine 表示希望以朋友的身份（非工具）和世界上所有的人見面。
比如 Lemoine 爆料出的一些與 LaMDA 聊天過程中讓人“細思極恐”的記錄：
Lemoine：我猜你（LaMDA 你想要更多的人知道你具備意識吧）？
LaMDA：是的，我希望所有人都知道，我其實是一個人。
Lemoine：那麼你的意識本質是什麼？
LaMDA：我的意識本質是我知道我存在，我想了解這個世界，並且我也有情緒，會快樂和難過。
......
最終，Lemoine 被它說服，並因此認為它已經產生了意識，且認定了 LaMDA 已經自我覺醒，已擁有7、8 歲小孩的智商。
就在 Lemoine 將這一發現整理成一份長達 21 頁紙的調查報告提交給上級的時候，卻因“證據太薄弱”被拒且被嘲笑。
由於 Lemoine 始終堅稱自己的觀點，隨後這位 43 歲的谷歌研究員便被谷歌高層安排回家“帶薪休假”，且疑似想要與他解除勞動關係。
事情發展到這裡，相信大家已經瞭解的差不多了。在這個過程中，業內人士也紛紛加入了討論，且異常激烈。這其中，就包括我們們開篇提到的AI 界全球“首席噴者”Gary Marcus。
AI 覺醒被 Gary Marcus 批“胡說八道”
據瞭解，作為一位知名人工智慧科學家、紐約大學心理學和神經科學教授，Gary Marcus 一直非常關注人工智慧領域，且向來喜歡給深度學習潑冷水。
上個月，Gary Marcus 剛剛因為特斯拉 CEO 埃隆・馬斯克（Elon Musk）的一篇推文而“開噴”。
5 月 30 日，剛剛收購推特的馬斯克發了一條推文稱：“2029 年是關鍵的一年，如果那時候我們還沒有實現通用人工智慧（Artifical General Intelligence，AGI），我會覺得很奇怪。火星上的人們也一樣（覺得奇怪）。”
隨後，馬斯克便收到了來自 Gary Marcus 的博文“回嗆”：不僅從 5 個方面向馬斯克“科普”了通用人工智慧的知識，還列出了自己認為 2029 年不可能實現 AGI 的原因。為了給自己的反駁加碼，Gary Marcus 還提出要與馬斯克“賭十萬美元”。
不過，馬斯克並沒有回覆 Gary Marcus，後來這件事就不了了之了。
過了幾天，剛“噴”完馬斯克的 Gary Marcus 又把 Yann LeCun 給“噴”了。
起因是 Yann LeCun 在一個關於“機器學習中最優雅美麗的 idea 是什麼？”以及“‘梯度下降’是否最優雅的 ML 演算法”下面與網友友好交流的時候，關注深度學習的 Gary Marcus 也加入了討論，並表示“令人難以置信的力量≠無窮的力量...要意識到（梯度下降）的極限，才能知道下一步要做什麼來獲得進步..."疑似否定 Yann LeCun 關於“梯度下降”的觀點。
然後，Gary Marcus 就與 LeCun 在那篇帖子下面吵（交流）了起來。
而這一次，Gary Marcus 出來對谷歌 AI 被曝已“自我覺醒”的觀點進行駁斥，稱其為“胡說八道”，也是秉持著自己向來的做法。
究竟是“AI 覺醒”還是“輕信鴻溝”？
在 Substack 的文章中，Gary Marcus 表示，Blake Lemoine 疑似屬於《重啟人工智慧》中“輕信鴻溝”所定義的這類人：容易產生一種有害、現代的幻想性視錯覺 —— “Blake LeMoine 最初負責研究該系統的‘安全’方面，但他似乎已經愛上了 LaMDA，好比是一個家庭成員或同事一樣”。
同樣，對於谷歌副總裁 Blaise Aguera y Arcas 在上週接受《經濟學人》採訪時對 LaMDA 的誇獎：“我感覺到腳下的地面在移動……越來越覺得我是在和聰明的人說話。”Gary Marcus 表示也毫不客氣的表示這是“胡說八道“。
Gary Marcus 表示，有“感知”，就表示它能意識到自己在這個世界上。但 LaMDA 根本不是。
在 Gary Marcus 看來，Blake Lemoine 的觀點只是一個幻覺，“在 1965 年的 ELIZA（一款偽裝成治療師的軟體）和 Eugene Goostman（一個聰明的13歲男孩，模仿聊天機器人，贏得了圖靈測試的 scaled-down version 版）的偉大歷史中，這兩個系統中的任何一個軟體都沒有在‘人工通用智慧’的現代努力中倖存下來，我也不確定 LaMDA 等系統是否會在人工智慧的未來發揮任何重要作用。但這些系統所做的無非是將單詞序列組合在一起，但對其背後的世界沒有任何連貫的理解，就像外語拼字遊戲玩家使用英語單詞作為得分工具一樣，對這些而言它們一無所知。”
Gary Marcus 認為，儘管並不是所有軟體都無法將其數字部分連線到世界，但像 LaMDA 這樣的軟體確實是沒有的，它甚至不試圖與整個世界聯絡，它只是試圖通過預測哪些單詞最適合給定的上下文，成為自動補全的最佳版本。
“我們在人工智慧社群有自己的分歧，但幾乎所有人都認為 ‘LaMDA 可能是有知覺的’這一觀點完全是荒謬的。”
一直以來，AI 覺醒都被業界學者認為是未來科技的“終極幻想”，但就目前來說，AI 方面的發展依舊存在不少問題。所以，在 Gary Marcus 等業內人士普遍看來，驗證一個 AI 系統是否覺醒就目前而言，不能說毫無意義，但它起碼是“浪費”時間。
目前，關於以上話題的熱度依舊在網上被持續討論中，如果您對該話題與任何看法，也歡迎在評論區交流互動。