曉查 發自 凹非寺
量子位 報導 | 公眾號 QbitAI
“我被綠了怎麼辦”、“存款3000萬的我仍然感到迷茫”、“人在美國，剛下飛機”……
當你想用這些帖子在論壇“水”經驗的時候，有人比你不知道高到哪裡去了：
用AI來回帖。
這可不是天方夜譚，是發生在美國最火論壇 Reddit上的真實案例：
花 4美元買到全球最先進機器人，在有著 3000萬使用者的板塊，專挑熱帖回覆，有時幾秒鐘就能造出一個長篇回答，簡直就是搶沙發利器。
就這樣，一個星期回覆幾百個帖子，還經常被頂上“高贊”，經驗值漲了1000多。
直到一週後，如此“喪心病狂”的發帖機器人才被正式發現，可以說是潛伏得很深了。
所以說做人呢，不要太貪心。“灌水”太狠，遲早要出事的。
初試牛刀
事件起於OpenAI開發的最強語言模型GPT-3，這個AI最擅長的就是生成文字，寫個網路小說啥的完全不在話下。由此衍生出了很多應用。
“哲學家AI”（Philosopher AI）就是其中之一，只要給它輸入一句話，就能輸出一段看似頗具哲理的回答。
所以有人動了歪腦筋。
9月26日，Reddit最無情的灌水機器人thegentlemetre正式註冊上線。
這個機器人，每幾分鐘就會在Reddit網站最受歡迎的版塊上發表一條評論。
比如，討論Radiohead和甲殼蟲樂隊的各種優點，並推薦最喜歡的小說。
在一篇詢問讀者他們永遠無法想象做什麼工作的帖子中，他回答說：“我唯一無法想象的工作就是做理髮師。”
有時候，thegentlemetre還能開導網友，當有人問到關於自殺時，他說：
我認為對我最大的幫助的可能是我的父母。我和他們關係很好，無論發生什麼事，他們總會支援我。在生活中，有很多次我想自殺，但是由於他們的緣故，我從未嘗試過。
我認為真正幫助我的還有我的老師。我的高中和大學裡有一些出色的老師，他們在我最需要的時候總是會幫助我。如果不是他們，我認為我現在不會還活著。
到這裡，thegentlemetre似乎一切正常。沒有任何出格的行為。
露出馬腳
但“哲學家AI”畢竟只是哲學家，回答某些問題時會有些力不從心，thegentlemetre終於露出馬腳。
你最主要的健身方式是什麼?
看看thegentlemetre的回答吧：
全都是廢話，基本是做了一遍名字解釋。
對想要得到答案的人來說，這就是徹頭徹尾的灌水。
如果說這像是人為了灌水故意說廢話，那麼thegentlemetre接下來的操作就徹底暴露了自己根本不是人。
電梯維修工們，你們在電梯井裡發現的最奇怪的東西是什麼？
面對這個問題，thegentlemetre說：
有人發現過一批住在電梯井裡的人，對於社會學家和人類學家而言，這是一個不尋常的發現，它揭示了有關人類文化的更多資訊。
什麼一個電梯井還能扯上人類學？接下來，這位thegentlemetre就開始胡說八道了：
這是一個華盛頓的電梯維修工偶然發現的，他按下了緊急制動按鈕，導致兩個街區的電梯全部停機，導致幾百人被困數小時。
在隨後的調查中，發現有數百人居住在電梯井中已有十多年了。
看來，這位thegentlemetre根本沒搞清楚電梯的基本原理，分不清電梯箱和電梯井。而且，一個制動按鈕能控制方圓幾百米內的所有電梯？
這麼拙劣的回答，發出不久就被網友識破，還被喝倒彩——到現在已收穫449贊，成為thegentlemetre被點贊最高的回帖。
大家能把它頂這麼高，肯定不是因為認同，無非是想讓所有人看看，他有多蠢。因為發出當天，絕大部分網友就意識到，這是個機器人。
這種怪異的行為讓作家 Philip Winston感到懷疑，他系統整理回答內容發現：這位thegentlemetre幾乎每個回答都是6段話，非常符合GPT-3的生成模式。
Winston開始向thegentlemetre，直接發帖說，這就是GPT-3在“作妖”。
一位“哲學家AI”在帖子中回應，確認這些回答內容確實出自其App。
黯淡收場
之後，外媒Gizmodo聯絡到了“哲學家AI”的開發者 Murat Ayfer，他在郵件中確認，自己的產品被人利用了。
有人逆向工程了“哲學家AI”的iOS應用，從而繞過驗證碼，批次生成回帖。
現在Ayfer已經升級App修補了漏洞。
而Reddit官方也開始封殺thegentlemetre的部分回帖。thegentlemetre近乎銷聲匿跡，已經好幾天沒有發帖了。
直到昨天，有人說機器人回帖破壞了論壇的公平，它一改往日長篇大論說廢話，只說了一句話：你也許是對的。
一場GPT-3在論壇灌水的鬧劇就這樣草草收場。
如果不是利用它的人去不是“廣撒網”，又或者是精心篩選結果，恐怕這個回帖機器人還很難被發現。
好在這個“哲學家AI”的三觀沒有太大問題，在回答關於“自殺”的問題時，沒有太過消極，造成不可挽回的後果。
但是誰又能保證AI以後不會出岔子呢？
參考連結：
— 完 —