最近幾天，ChatGPT 驚現神秘 Bug，當被問及「David Mayer」這個名字時，它拒絕回答問題。
如果你試圖讓它回答，聊天會立即結束。
圖源：https://x.com/venturetwins/status/1862910201113739328
人們嘗試了各種各樣的方法 —— 密碼、謎語、技巧等，但都不起作用。甚至在個性化設定裡，使用者自己的名字改成 David Mayer，還是不行。
訊息迅速傳出，有人說，這個名字對聊天機器人來說是毒藥。每次試圖讓 ChatGPT 拼出這個特定的名字都會導致它失敗，甚至在名字中間中斷。
最初人們只是好奇，但很快就發現 ChatGPT 無法說出的名字不僅僅是 David Mayer。
他們還發現導致服務崩潰的還有 Brian Hood、Jonathan Turley、Jonathan Zittrain、David Faber 和 Guido Scorza 等等。
這些人是誰？為什麼會讓 ChatGPT 崩潰？
認真觀察，可以發現其中一些名字可能屬於許多人。但 ChatGPT 使用者發現的一個潛在聯絡是，這些人是公眾人物或半公眾人物，他們可能希望搜尋引擎或 AI 模型「忘記」某些資訊。
例如，Brian Hood 是澳大利亞的一位市長，他指責 ChatGPT 錯誤地將他描述為幾十年前犯罪的肇事者，而事實上，他曾舉報過這一錯誤。
雖然他的律師與 OpenAI 取得了聯絡，但從未提起過訴訟。正如他今年早些時候說的那樣，違規內容已被刪除。
David Faber 是 CNBC 的資深記者，Jonathan Turley 是一名律師和福克斯新聞評論員，Jonathan Zittrain 也是一名法律專家，Guido Scorza 是義大利資料保護局的董事會成員。
他們並非完全從事同一行業，也不是隨機選擇的。這些人可能出於某種原因正式要求以某種方式限制他們在網上的資訊。
讓我們再回到 David Mayer，沒有人能找到叫這個名字的律師、記者或其他知名的人士。
不過，有一位教授叫 David Mayer，他教授戲劇和歷史，於 2023 年夏天去世，享年 94 歲。然而，在此之前的幾年裡，這位英裔美國學者面臨著法律和網路問題，因為他的名字與一名通緝犯有關，該通緝犯以他的名字作為化名，以至於他無法旅行。
Mayer 一直努力讓自己的名字與那位恐怖分子的名字區分開來，即使在生命的最後幾年裡他仍繼續教書。
那麼，從這一切中我們可以得出什麼結論呢？
一種猜測是：模型已提取或提供了需要進行特殊處理的姓名列表。無論是出於法律、安全、隱私還是其他考慮，這些名稱可能受到特殊規則的保護。
可能發生的情況是，這些列表之一幾乎肯定是主動維護或自動更新的，但由於錯誤的程式碼或指令而以某種方式損壞，當呼叫這些列表時，會導致聊天智慧體立即中斷。
這一切很好地提醒我們，人工智慧模型不僅不神奇，而且還具有超凡的自動完成功能，並受到製造它們的公司的主動監控和干擾。因此當您考慮從聊天機器人獲取事實時，直接查詢源頭是否會更好？
OpenAI 週二證實，「David Mayer」這個名字已被內部隱私工具標記，並在一份宣告中表示：「在某些情況下，ChatGPT 可能不會提供有關人們的某些資訊以保護他們的隱私。」該公司不會提供有關工具或流程的進一步細節。
參考內容：https://techcrunch.com/2024/12/03/why-does-the-name-david-mayer-crash-chatgpt-digital-privacy-requests-may-be-at-fault/