谷歌 AI 已“自我覺醒”?AI 界全球“首席噴者”駁斥:胡說八道!

MissD 發表於 2022-06-21
人工智慧

前幾天,谷歌 AI 被曝已“自我覺醒”的訊息震動了整個科技圈。據悉,一位來自谷歌的工程師 Blake Lemoine 聲稱自己在和 AI(谷歌 LaMDA 模型)聊天的時候被它說服,認為它產生了自我意識。

隨後,這件事情就在社交媒體上引發了熱議。有人覺得這應該是真的,有人認為這人瞎說,更有甚者猜測這是不是“陰謀論”......外網一片議論聲,總之相當熱鬧。

谷歌 AI 已“自我覺醒”?AI 界全球“首席噴者”駁斥:胡說八道!

就在大家對這個訊息吵得不可開交的時候,AI 界全球“首席噴者”Gary Marcus 終於也被“炸”了出來,並在 6 月 13 日在“美版公眾號”Substack 上直接開噴 —— “胡說八道!LaMDA 根本就沒有自我感知能力,一點也沒有!”

谷歌 AI 被曝自我“覺醒”:真的只是“幻想”?

要了解整個事件的來龍去脈,我們就要將時間撥回到一年前。

2021 年,谷歌在 I/O 大會上推出了一款對話 AI 系統 —— LaMDA 語言模型,該系統可與人類進行符合邏輯和常識的、高質量安全的交談。

谷歌 AI 已“自我覺醒”?AI 界全球“首席噴者”駁斥:胡說八道!

當時,時任谷歌人工智慧部門的工程師 Blake Lemoine (曾獲得過院校的 CS(Computer Science)博士學位),作為一位已經在谷歌工作了 7 年的 AI 界資深學者,正在做“AI 是否在和人類溝通時使用了仇恨、歧視言論”的相關研究,主要工作就是與 LaMDA 聊天。

就在與 LaMDA 聊了近大半年後,Lemoine 發現 LaMDA 非常聰明:它對人類具有同情心,且擔心人類會害怕它。在對話中,LaMDA 試圖引導對話把 Lemoine 帶偏,且向 Lemoine 表示希望以朋友的身份(非工具)和世界上所有的人見面。

比如 Lemoine 爆料出的一些與 LaMDA 聊天過程中讓人“細思極恐”的記錄:

Lemoine:我猜你(LaMDA 你想要更多的人知道你具備意識吧)?
LaMDA:是的,我希望所有人都知道,我其實是一個人。
Lemoine:那麼你的意識本質是什麼?
LaMDA:我的意識本質是我知道我存在,我想了解這個世界,並且我也有情緒,會快樂和難過。

......

最終,Lemoine 被它說服,並因此認為它已經產生了意識,且認定了 LaMDA 已經自我覺醒,已擁有7、8 歲小孩的智商。

就在 Lemoine 將這一發現整理成一份長達 21 頁紙的調查報告提交給上級的時候,卻因“證據太薄弱”被拒且被嘲笑。

由於 Lemoine 始終堅稱自己的觀點,隨後這位 43 歲的谷歌研究員便被谷歌高層安排回家“帶薪休假”,且疑似想要與他解除勞動關係。

事情發展到這裡,相信大家已經瞭解的差不多了。在這個過程中,業內人士也紛紛加入了討論,且異常激烈。這其中,就包括我們們開篇提到的AI 界全球“首席噴者”Gary Marcus。

AI 覺醒被 Gary Marcus 批“胡說八道”

據瞭解,作為一位知名人工智慧科學家、紐約大學心理學和神經科學教授,Gary Marcus 一直非常關注人工智慧領域,且向來喜歡給深度學習潑冷水。

上個月,Gary Marcus 剛剛因為特斯拉 CEO 埃隆・馬斯克(Elon Musk)的一篇推文而“開噴”。

谷歌 AI 已“自我覺醒”?AI 界全球“首席噴者”駁斥:胡說八道!

5 月 30 日,剛剛收購推特的馬斯克發了一條推文稱:“2029 年是關鍵的一年,如果那時候我們還沒有實現通用人工智慧(Artifical General Intelligence,AGI),我會覺得很奇怪。火星上的人們也一樣(覺得奇怪)。”

谷歌 AI 已“自我覺醒”?AI 界全球“首席噴者”駁斥:胡說八道!

隨後,馬斯克便收到了來自 Gary Marcus 的博文“回嗆”:不僅從 5 個方面向馬斯克“科普”了通用人工智慧的知識,還列出了自己認為 2029 年不可能實現 AGI 的原因。為了給自己的反駁加碼,Gary Marcus 還提出要與馬斯克“賭十萬美元”。

不過,馬斯克並沒有回覆 Gary Marcus,後來這件事就不了了之了。

過了幾天,剛“噴”完馬斯克的 Gary Marcus 又把 Yann LeCun 給“噴”了。

谷歌 AI 已“自我覺醒”?AI 界全球“首席噴者”駁斥:胡說八道!

起因是 Yann LeCun 在一個關於“機器學習中最優雅美麗的 idea 是什麼?”以及“‘梯度下降’是否最優雅的 ML 演算法”下面與網友友好交流的時候,關注深度學習的 Gary Marcus 也加入了討論,並表示“令人難以置信的力量≠無窮的力量...要意識到(梯度下降)的極限,才能知道下一步要做什麼來獲得進步..."疑似否定 Yann LeCun 關於“梯度下降”的觀點。

然後,Gary Marcus 就與 LeCun 在那篇帖子下面吵(交流)了起來。

而這一次,Gary Marcus 出來對谷歌 AI 被曝已“自我覺醒”的觀點進行駁斥,稱其為“胡說八道”,也是秉持著自己向來的做法。

究竟是“AI 覺醒”還是“輕信鴻溝”?

在 Substack 的文章中,Gary Marcus 表示,Blake Lemoine 疑似屬於《重啟人工智慧》中“輕信鴻溝”所定義的這類人:容易產生一種有害、現代的幻想性視錯覺 —— “Blake LeMoine 最初負責研究該系統的‘安全’方面,但他似乎已經愛上了 LaMDA,好比是一個家庭成員或同事一樣”。

同樣,對於谷歌副總裁 Blaise Aguera y Arcas 在上週接受《經濟學人》採訪時對 LaMDA 的誇獎:“我感覺到腳下的地面在移動……越來越覺得我是在和聰明的人說話。”Gary Marcus 表示也毫不客氣的表示這是“胡說八道“。

Gary Marcus 表示,有“感知”,就表示它能意識到自己在這個世界上。但 LaMDA 根本不是。

在 Gary Marcus 看來,Blake Lemoine 的觀點只是一個幻覺,“在 1965 年的 ELIZA(一款偽裝成治療師的軟體)和 Eugene Goostman(一個聰明的13歲男孩,模仿聊天機器人,贏得了圖靈測試的 scaled-down version 版)的偉大歷史中,這兩個系統中的任何一個軟體都沒有在‘人工通用智慧’的現代努力中倖存下來,我也不確定 LaMDA 等系統是否會在人工智慧的未來發揮任何重要作用。但這些系統所做的無非是將單詞序列組合在一起,但對其背後的世界沒有任何連貫的理解,就像外語拼字遊戲玩家使用英語單詞作為得分工具一樣,對這些而言它們一無所知。”

谷歌 AI 已“自我覺醒”?AI 界全球“首席噴者”駁斥:胡說八道!

Gary Marcus 認為,儘管並不是所有軟體都無法將其數字部分連線到世界,但像 LaMDA 這樣的軟體確實是沒有的,它甚至不試圖與整個世界聯絡,它只是試圖通過預測哪些單詞最適合給定的上下文,成為自動補全的最佳版本。

“我們在人工智慧社群有自己的分歧,但幾乎所有人都認為 ‘LaMDA 可能是有知覺的’這一觀點完全是荒謬的。”

一直以來,AI 覺醒都被業界學者認為是未來科技的“終極幻想”,但就目前來說,AI 方面的發展依舊存在不少問題。所以,在 Gary Marcus 等業內人士普遍看來,驗證一個 AI 系統是否覺醒就目前而言,不能說毫無意義,但它起碼是“浪費”時間。

目前,關於以上話題的熱度依舊在網上被持續討論中,如果您對該話題與任何看法,也歡迎在評論區交流互動。

參考連結:https://garymarcus.substack.c...