直播打遊戲的馬斯克、TED演講谷歌小姐姐到底是不是真人？網友猜到懷疑人生

机器之心發表於2024-08-11
遊戲馬斯克谷歌

眼見為實？在AI時代，這句話該過時了。


AI正掀起一場「造假」新風暴。

近日，一項名為Deep Live Cam的直播換臉專案火了，在Github上狂攬5.8k Star量，一躍成為Github熱門榜單第一。
圖片
先看看它的品質，換臉成馬斯克，360 度打光都沒有違和感。直播打遊戲的馬斯克、TED演講谷歌小姐姐到底是不是真人？網友猜到懷疑人生
有網友驚呼，太瘋狂了，還以為這就是馬斯克的遊戲直播。
圖片
此外，AI 生成的谷歌小姐姐還登上 TED 進行演講，那逼真程度，一個字，絕！

曾經科幻片中的場景，如今漸成現實，黑鏡來得太快，不得不讓人擔憂。

正如 AI 大牛 Anderj Karpathy 所言，要行善，未來的 AI 們都看著呢。
圖片
人人都是董宇輝的時代到來了！

AI 造假簡直「逆天」。

這項名為 Deep Live Cam 的專案只需要一張圖片，就能一鍵進行實時直播換臉。

Catena Labs 首席產品官 @jay_wooow 第一時間趕到「吃瓜」前線。

他本人長這樣：
圖片
但當他開啟電腦攝像頭，僅花 5 分鐘安裝了 Deep Live Cam，他的面孔瞬間被替換成 JD Vance：

圖片

英倫大帥哥休・格蘭特（Hugh Grant）：

圖片

還有「蜥蜴人」祖克伯（Zuckerburg））：

圖片

以及帥到老的喬治・克魯尼（George Clooney）：

圖片

無論是做鬼臉、挑眉毛，左右搖頭，還是切換各種刁鑽角度，臉部都絲毫沒崩，也沒有時間延遲。

此外，它還提供實時預覽功能，能夠立即看到替換效果，同時支援實時人臉增強、處理同一影像或影片中的多張人臉等。

這似乎意味著，以後我們參加線上會議、直播帶貨時可以用任何人的面孔示人。

因此有網友評論稱，以後開會可以換成總公司 CEO 的臉了。
圖片
不過，也有不少網友擔心，不法分子會趁機設計瘋狂的騙局，假新聞也將更上一層樓。
圖片
圖片
Deep Live Cam 開發者意識到潛在的濫用風險，承諾採取預防措施。該應用內建檢查機制，避免處理裸露、暴力或戰爭等敏感內容。如有必要，他們也將會在輸出內容上新增水印。
圖片
開發者還在 Github 上詳細介紹了 Deep Live Cam 的安裝執行攻略。感興趣的朋友可以前往檢視：

圖片

專案地址：https://github.com/hacksider/Deep-Live-Cam?tab=readme-ov-file

谷歌小姐姐真假難辨

與此同時，一位 Google 小姐姐開始刷爆社交媒體。只見一位帶著谷歌工作證的小姐姐在 TED 中游刃有餘的進行著演講，時不時的和現場觀眾互動，表現的非常自然。

但是，這位小姐姐並不是真人，而是由 AI 生成的。

圖片

這個訊息讓人一時難以接受，怎麼說，現在的 AI 搞得影片已經不可信了，眼見不一定為真，影片確實可以 P。

就連小細節也是拿捏的非常精準。不過從影片來看，工作牌還是有些瑕疵的，當人物晃動身體時，我們還是能看到白色部分的偽影。

雖然有些小缺點，但也不妨礙 AI 技術正變得越來越先進，難怪網友發出這樣的感慨「現在的 FLUX + Runway Gen-3 Alpha 就是一個殺手組合。（上述影片就是這個組合生成的）」。
圖片
Kling 版本是下面這樣的：

圖片

來源 https://x.com/jesselaunz/status/1822009842317558058

如果你覺得乾巴巴的影片沒有配音很難受，別急，配完音之後是這樣子的：直播打遊戲的馬斯克、TED演講谷歌小姐姐到底是不是真人？網友猜到懷疑人生
來源：https://x.com/srkndyck/status/1822008566091248017

Luma Dream Machine 效果是這樣子的：直播打遊戲的馬斯克、TED演講谷歌小姐姐到底是不是真人？網友猜到懷疑人生
來源：https://x.com/Kyrannio/status/1821895489840955421

但是，細看的話，生成的手指還是有缺陷，出現了三手指。
圖片
據瞭解，上述影片都是在這張圖的基礎上生成的，影像生成用的是 Flux + LoRA。
圖片
來源：https://www.linkedin.com/feed/update/urn:li:activity:7227710205487128576/

圖片是一位名叫 Leo Kadieff 的小哥在領英上率先發出，他表示這些圖片沒有經過放大或其他處理，是 Flux +LoRA 的原始輸出。

小哥已經在慶祝關於這張圖片的帖子已經在 X 上炸鍋了。
圖片
回想三年前，圖片生成還停留在牛油果座椅，現在已經能生成真假難辨的人物圖片了。
圖片
圖源：https://x.com/javilopen/status/1821883326375825609

不僅能生成人物影片，Flux + Gen 3 這個組合生成的動物世界也讓人真假難辨。

圖片

圖片

在影片生成如此爆火的今天，就算你有一雙火眼金睛，可能也會面臨一個真假難辨的困境。

那些 AI 造假惹出的亂子

Deepfake 自誕生起就伴隨著巨大的爭議，甚至搞出了不少亂子。

例如，利用 AI 搞「黃色」，侵犯他人隱私和肖像權。

今年年初時，一組 AI 換臉生成的黴黴（泰勒・斯威夫特）不雅照在社交平臺上瘋傳，甚至驚動了美國白宮，發言人讓・皮埃爾（Karine Jean-Pierre）表示：「我們對此類虛假影像的流感測到擔憂。」
圖片
再如，AI 換臉技術讓社交媒體充斥著假新聞。

今年的 Met Gala 紅毯上，凱蒂・佩裡和蕾哈娜明明未現身，但 AI 生成的紅毯照滿天飛，如果不細看很難找出破綻。（以下照片均為 AI 生成）
圖片
還有「失蹤」幾個月的凱特王妃突然現身，「真假難辨」的圖片和影片引得全世界瓜民搬著板凳來「找茬」。
圖片
AI 詐騙的案例更是比比皆是。

今年 1 月份，一家跨國公司成了 deepfake 詐騙的目標，其香港員工被騙了 2 億港元。

這名員工受邀參加總部首席財務官發起的「多人視訊會議」，並按照要求先後將 2 億港元分 15 次轉到 5 個賬戶內。得知受騙後，他才發現，那場會議中除了他自己，其它與會人員全部是經過「AI 換臉」和「AI 換聲」的詐騙團隊。

AI 詐騙猖狂的程度，連巴菲特都坐不住了。他在 2024 年度股東大會上表示，「基於深度偽造技術帶來的 AI 欺詐投資可能將會成為一個『不斷增長的行業』」。

或許以後，大家都不能再相信視訊通話，或者僅透過照片來確認身份，如果好朋友借錢，最保險的方式將是親自見面。
圖片
參考連結：
https://x.com/jesselaunz/status/1822009842317558058
https://x.com/tonyzhu1984/status/1822036026661224945
https://amp.cnn.com/cnn/2024/05/16/tech/arup-deepfake-scam-loss-hong-kong-intl-hnk

相關文章