韓國人用deepfake給總統競選人做了個數字化身，線上接受問答

机器之心發表於2022-02-18
近日，DeepFake 技術被用到了韓國大選中，構造了是世界上第一個官方 deepfake 政界候選人。

這個名為「AI Yoon」的數字人以韓國國民力量黨候選人尹錫悅（Yoon Suk-yeol）為原型。藉助尹錫悅 20 小時的音訊和影片片段、以及其專門為研究人員錄製的 3000 多個句子，當地一家 deepfake 技術公司建立了虛擬形象 AI Yoon，並在網路上迅速走紅。

此前也有 AI 技術被用於選舉，比如紐約市長候選人楊安澤（Andrew Yang）曾在虛擬世界中進行競選。但 「AI Yoon」 的創造者認為這是世界上第一個官方 deepfake 候選人。

乍一看，「AI Yoon」 可能會被誤認為是一個真正的候選人，梳著整齊的黑髮，穿著正式的西裝，從外表上看幾乎和尹錫悅本人一模一樣。但為了吸引年輕選民，研究者讓「AI Yoon」使用一些風趣的語言和俏皮話。自 1 月 1 日首次亮相以來，已經吸引了數百萬的觀看次數。
韓國人用deepfake給總統競選人做了個數字化身，線上接受問答
實際上 AI Yoon 表達的內容是由競選團隊撰寫的，而不是候選人本人。

首爾女子大學資訊保安教授 Kim Myuhng-joo 告訴當地媒體，AI Yoon 參加活動使用的指令碼借鑑了網路遊戲中使用的語言。她說：「AI Yoon 按照其創造者編寫的指令碼進行朗讀。」

「AI Yoon」研發團隊負責人 Baik Kyeong-hoon 則表示：尹錫悅在現實世界中常說的話在 AI Yoon 中也得到了很好的體現。

韓國人用deepfake給總統競選人做了個數字化身，線上接受問答

韓國國民力量黨候選人尹錫悅。

AI Yoon 的迅速躥紅為候選人尹錫悅提高了人氣。在年齡 20 多歲的選民群體中，尹錫悅的人氣領先於競爭對手李在明。

這和 AI Yoon 的語言風格及其研發團隊有很大關係。AI Yoon 的創作者 Baik 和另外兩名技術成員是尹錫悅競選團隊中最年輕的員工。爭取年輕選民的選票可能是他們的用意之一。
韓國人用deepfake給總統競選人做了個數字化身，線上接受問答
該團隊為 AI Yoon 的頭腦風暴式問答生成回應，可能只需要 30 分鐘。這與通常在公共政策辯論中經過精心打磨的言辭形成鮮明對比。Baik 認為：使用 deepfake 技術建立大量內容非常容易，AI 將為未來的競選活動提供支援。

在能被識別出是 deepfake 技術合成，且不傳播錯誤資訊的條件下，韓國的選舉監管機構允許使用此類「AI 候選人」。

然而，這項技術通常被限制使用。


2018 年，美國新聞網站 Buzzfeed 聯合喜劇演員 Jordan Peele 利用 deepfake 技術偽造了一段前美國總統奧巴馬的影片，之後 Buzzfeed 又警告網友不要相信相關的影片資訊。

韓國人用deepfake給總統競選人做了個數字化身，線上接受問答

奧巴馬和 Jordan Peele。

2018 年，美國新聞網站 Buzzfeed 聯合喜劇演員 Jordan Peele 利用 deepfake 技術製作了一段美國前總統奧巴馬的影片，之後 Buzzfeed 又警告網友不要相信相關的影片資訊。

類似地，2019 年陌陌推出了一款名為 ZAO 的 AI 換臉應用，上架幾天就衝到應用榜榜首，但很快就因存在濫用隱患而下架了。2021 年，一段用換臉技生成的「螞蟻呀嘿」影片及其製作軟體 Avatarify 再掀風波，並在一週之後火速下架。

實際上，換臉所帶來的隱私安全問題確實令人擔憂。一方面技術濫用會導致虛假資訊氾濫；另一方面，如使用明星等他人的照片來製作相關影片，就可能涉及名譽權、肖像權、智慧財產權等法律問題。此外，個人隱私洩漏可能會涉及資產安全、人身安全等問題。

因此，deepfake 技術雖已日漸成熟，但其廣泛應用仍需更多的安全和法律保障。

參考連結：
https://www.france24.com/en/live-news/20220214-deepfake-democracy-south-korean-candidate-goes-virtual-for-votes

相關文章