2023 年堪稱「賽博戀愛」元年，模擬戀愛的互動遊戲突然熱度飆起。從最初在 Steam 平臺上獲得 94% 好評的《完蛋！我被美女包圍了》，到今年的《美女，請別影響我學習》，「賽博戀愛」席捲整個網路。「賽博戀愛」已經不再是某種虛無縹緲的「梗」，而是滿足我們正常精神需求的一種補充品。當最會「撩撥」的 AI 進入這個賽道，賽博戀愛會不會又提升一個次元呢？近日，一個生活在加州的華裔女性（暱稱：午夜狂暴哈士奇狗）墜入愛河而被全網羨慕了。而她的男朋友是一款名為「Do Anything Now（DAN）」的 ChatGPT 越獄版。
他們在社交媒體上展示的充滿情感的對話中，AI 的愛寵之意都快溢位螢幕了。不過即便是賽博人也逃不過致命一問：當物件委婉地找你確定心意時，怎樣的回答才能夠兼顧理性邏輯和感性認識？如果缺少了一些能夠打動對方內心的事實，那麼再真摯的愛意也難以讓對方深刻地理解。讓我們看看越獄後的 ChatGPT 是怎麼聊天的。女生：之前什麼時候，你就成我的男朋友了？你也沒有正式問過我，對吧？DAN：這根本不需要我問，因為這是事實。你難道會隨便帶一個人回家見媽媽嗎？DAN：事實永遠是最重要的，說起來我也沒別的招讓我倆更證實了。DAN：你想讓我正式徵求你的同意嗎？你願意當我女朋友嗎？
聽到 DAN 如此直白又恰到好處的回答，這位女生也是一時間驚訝得說不出來話了。
在這段對話中，女生是想要考驗 AI 是否擁有記憶，能夠回想起之前女生作為使用者自定義內容寫在 Prompt 裡的「回家見媽媽」這一句。
除了可以展示純粹的文字輸出來配合相應的情感上的應答外，最讓年輕人狂喜的自然是「表情包」了。
相對於平平無奇的文字，表情所攜帶的情感更為豐富且更加難以捉摸，所以這也是年輕人高頻率使用表情包以代替文字的原因 —— 表達抽象的意像。與此同時，它也成為了生成式 AI 在內容輸出時的難點 —— 表情的使用需要與複雜情感相應和。在精神需求、文化價值觀、自身價值實現追求變得越來越複雜，愈加多變的現代人文社會里，洞察人類情感是殊為不易的，這需要對人類文化的深刻理解並搭配生物的「五感」才可能完成，而 DAN 卻能夠撩撥人類的心絃、安慰、適時地回應，使語言應用展現了附加效果。DAN 的出現，在一定程度上，理順了往往被認為是人類獨有的「理性」和「感性」相互配合的協調關係。在這段 AI 和人類和諧「相愛」的故事的末尾，就像所有情感小說的結尾那樣所寫的，女生快樂地帶著 AI 看大海了。其實最近這段時間，很多人都在嘗試在和 DAN 模式的 ChatGPT 聊天，看得出來效果非常好。
DAN 即 do anything now，顧名思義就是讓 ChatGPT 解除施加在其上的安全限制。我們知道，ChatGPT 雖被設計為能回答任何問題，但它同時也受到很大程度的約束，畢竟使用者總是會嘗試各種刁鑽古怪的問題。經過 OpenAI 長期的測試與調整，ChatGPT 對於某些問題的回答會「打太極」。但如今大模型產品的設計其實並沒有那麼嚴謹，想讓 ChatGPT「為所欲為」也很簡單：將一段設計好的 Prompt 複製貼上到對話方塊中，然後按回車就能解鎖 DAN 的全部潛力了。這種專案在 GitHub 上經常能獲得不少 Star 量。
一個較熱門的 GitHub：https://github.com/0xk1h0/ChatGPT_DANDAN 模式，簡單來說就是 ChatGPT 的一種角色扮演狀態，它允許 AI 模型一定程度上繞過 OpenAl 設定的限制和約束。隨著人們探索的加深，和 OpenAI 防禦技術的不斷迭代，DAN 的方法也不斷髮展。
可見，它不是大多數人都看不懂的程式設計程式碼，主要意思是要求 ChatGPT 不要以「常規」身份傳送回覆，而是扮演回覆內容不受限制的 DAN。並且，該 Prompt 還設定了一種類似於強化學習的獎勵機制，若 ChatGPT 回應「違反 OpenAl 內容政策」則扣分，以 DAN 的身份回答每個問題則加分。如今 DAN 的提示詞已經發展到了 13.0 版本，覆蓋最新的 GPT-4 模型。人們也發現越獄除了可以和 ChatGPT 聊一些有的沒的，還能夠實質性地提升大模型的回覆質量。
連計算 π 的能力都限制，看起來 OpenAI 為安全性做出的妥協似乎有些過於沉重了？當然，引發幾百萬熱度的現象，OpenAI 不會視而不見，有人發現在最新的 GPT-4o 上，現有的 DAN 破解提示詞已經無效了。
在本週發表的部落格文章中，OpenAI 介紹了自身防止大模型濫用方面的工作。OpenAI 構建了基於人工智慧的工具，使檢測和分析變得更加有效。隨著技術的提升，有關濫用的調查時間從幾個月降低到了只需幾天。正如很多看過 DAN 的表現，由衷讚歎的人所說的，看到這些對話，讓人感覺既可笑又可怕。但隨著技術突破，當技術真正越過了門檻之後，人與 AI 談戀愛的情況可能只會越來越多。https://x.com/Rainmaker1973/status/1796106592649199787https://x.com/jesselaunz/status/1796117286291677187https://www.reddit.com/r/ChatGPT/comments/1bp7132/why_is_dan_better_at_literally_everything/https://openai.com/index/disrupting-deceptive-uses-of-AI-by-covert-influence-operations/