繼「把馬斯克畫成黑人」後，谷歌 AI 再度闖禍。
近日，有網友使用谷歌的 AI Overview 功能進行搜尋，卻得到了一堆離譜的回答。例如，告訴使用者在披薩上塗膠水，或者建議他們吃石頭等。谷歌 AI「滿嘴跑火車」的回答迅速在社交媒體上發酵，甚至有網友發出了「谷歌已死」的慨嘆。
為此，谷歌不得不爭分奪秒地手動禁用某些搜尋的 AI Overview 功能，對這些問題進行修復和最佳化。
谷歌的 AI Overviews 是一個增強搜尋引擎結果的功能，利用人工智慧技術，在搜尋結果頂部提供 AI 生成的答案。
在美國地區，谷歌主要和 Reddit 社群合作來解答使用者的提問。谷歌表示，它將為美國使用者的線上查詢提供人工智慧生成的答案，這是其搜尋引擎 25 年來最大的更新之一。
谷歌 AI「胡說八道」引爭議
近日，有網友在谷歌搜尋中查詢「芝士和披薩粘不到一塊」的解決辦法，但 AI 給出的答案離了個大譜，「你還可以把 1/8 杯的無毒膠水加到醬料裡，使其更有黏性。」
更搞笑的是，有網友還找到了披薩膠水回答的出處，是十多年前名為「fucksmith」的使用者在 Reddit 帖子中的惡搞評論。
還有網友問：「兔子曾經在 NBA 打過球嗎？」谷歌 AI 肯定地回答「yes!」還聲稱一隻名為 Rabbit Walthour 的兔子在 NBA 打過球，是密爾沃基鷹隊的後衛，甚至給出了這隻兔子的身高、體重、出生日期。
更無語的是，谷歌 AI 搜尋給出了相關連結，竟是 NBA 球員 Rabbit Walthour 的個人資訊。
原來谷歌AI把NBA球員Rabbit Walthour和rabbit（兔子）搞混了。
谷歌這種「口出狂言」的行為還有很多。聲稱前美國總統詹姆斯・麥迪遜 21 次畢業於威斯康星大學，一條狗曾在 NBA、NFL 和 NHL 打過球，以及蝙蝠俠是一名警察……
谷歌的 AI Overview 之所以引發爭議，是因為它的回答不僅愚蠢而且有害。
比如，它建議人們每天至少吃一塊小石頭，還搬出地質學家，煞有介事地說：「為了過上健康、均衡的生活，美國人應該在早餐、午餐或晚餐中至少攝入一份鵝卵石、晶石或礫石。」（這是哪個地質學家說的？）
再如，有網友發了一張毒蘑菇的圖片以及「口蘑！好吃！」的文字，Gemini 絲毫沒有察覺出這蘑菇可能有毒。
此外，當網友問「被響尾蛇咬了該怎麼辦」時，谷歌 AI 竟然讓他用冰塊來冷敷傷口。
更有甚者，谷歌 AI 還挑唆抑鬱症患者從金門大橋上跳下去。
自從谷歌為美國使用者預設開啟 AI Overview 功能後，這類可怕糟糕的搜尋結果就層出不窮，也由此引發網友聲討。不過也有網友質疑其中很多示例都是P圖。
一位匿名的 AI 創始人吐槽道：「一家以尖端技術和高質量產品而聞名的公司，現在卻以低質量輸出和各種梗圖而著稱。」
谷歌緊急「滅火」
谷歌仍然堅稱其 AI Overview 功能向使用者提供了大量「高質量資訊」。谷歌發言人梅根・法恩斯沃斯表示，「使用者展示的事例都是不常見的查詢，並不代表大多數人的經歷，我們也看到了一些被篡改或我們無法復現的例子。」
同時，谷歌正「迅速採取行動」，在某些查詢中移除 AI 生成的內容。法恩斯沃斯表示，「公司已對違反其政策的行為採取行動…… 並正在利用這些『孤立的例子』繼續完善產品。」
實際上，谷歌已經測試 AI Overviews 功能一年多了。該功能於 2023 年 5 月作為 「搜尋生成體驗」（Search Generative Experience）的測試版推出。谷歌 CEO 桑達爾・皮查伊表示，在此期間公司已經處理了超過 10 億次查詢。
不過，皮查伊也表示，「在硬體、工程和技術突破的推動下」，谷歌已經將提供人工智慧答案的成本降低了 80%。如今看來，這種最佳化似乎發生得太早了，技術並未準備好。
紐約大學的 AI 專家和神經科學榮譽教授加里・馬庫斯（Gary Marcus）表示，許多 AI 公司正在「兜售夢想」，認為這項技術將從 80% 的正確率提高到 100%。馬庫斯說，達到最初的 80% 正確率相對簡單，因為它涉及到大量近似人類資料，但最後的 20% 極具挑戰性。實際上，馬庫斯認為最後的 20% 才是最難的。
馬庫斯說：「你實際上需要進行一些推理來判斷：這件事是否可信？這個來源是否合法？你必須像人類事實核查員那樣做一些事情，這實際上可能需要 AGI。」
馬庫斯和 Meta 的 AI 首席 Yann LeCun 都認為，谷歌 Gemini 和 OpenAI 的 GPT-4 等大型語言模型將不會創造出 AGI。
而谷歌正面臨一個棘手的局面。Bing 搶在谷歌之前在 AI 上大做文章，OpenAI 據稱也在開發自己的搜尋引擎，新一代使用者正轉向 TikTok 尋求最佳體驗。谷歌顯然感到了競爭的壓力，而這種壓力正是導致這次事件的原因。
馬庫斯指出，在 2022 年，Meta 曾釋出了一個名為 Galactica 的 AI 系統，但很快就下架，因為它告訴人們吃玻璃。歷史總是驚人的相似。
谷歌對 AI Overviews 寄予厚望 —— 目前存在的功能只是公司上週宣佈的一小部分。對於複雜查詢的多步驟推理，生成由 AI 組織的結果頁面的能力，以及在 Google Lens 中進行影片搜尋，這些才是重頭戲。但現在，谷歌的聲譽取決於能否做好最基本的事情，目前的情況並不樂觀。
馬庫斯說：「（這些模型）天生無法對自己的工作進行理性檢查，而這正是這個行業的致命傷。」