近日，一項名為Deep Live Cam的直播換臉專案火了，在Github上狂攬5.8k Star量，一躍成為Github熱門榜單第一。先看看它的品質，換臉成馬斯克，360 度打光都沒有違和感。有網友驚呼，太瘋狂了，還以為這就是馬斯克的遊戲直播。此外，AI 生成的谷歌小姐姐還登上 TED 進行演講，那逼真程度，一個字，絕！ 曾經科幻片中的場景，如今漸成現實，黑鏡來得太快，不得不讓人擔憂。 正如 AI 大牛 Anderj Karpathy 所言，要行善，未來的 AI 們都看著呢。人人都是董宇輝的時代到來了！ AI 造假簡直「逆天」。 這項名為 Deep Live Cam 的專案只需要一張圖片，就能一鍵進行實時直播換臉。 Catena Labs 首席產品官 @jay_wooow 第一時間趕到「吃瓜」前線。 他本人長這樣：但當他開啟電腦攝像頭，僅花 5 分鐘安裝了 Deep Live Cam，他的面孔瞬間被替換成 JD Vance：
這似乎意味著，以後我們參加線上會議、直播帶貨時可以用任何人的面孔示人。 因此有網友評論稱，以後開會可以換成總公司 CEO 的臉了。不過，也有不少網友擔心，不法分子會趁機設計瘋狂的騙局，假新聞也將更上一層樓。Deep Live Cam 開發者意識到潛在的濫用風險，承諾採取預防措施。該應用內建檢查機制，避免處理裸露、暴力或戰爭等敏感內容。如有必要，他們也將會在輸出內容上新增水印。開發者還在 Github 上詳細介紹了 Deep Live Cam 的安裝執行攻略。感興趣的朋友可以前往檢視：
專案地址：https://github.com/hacksider/Deep-Live-Cam?tab=readme-ov-file 谷歌小姐姐真假難辨 與此同時，一位 Google 小姐姐開始刷爆社交媒體。只見一位帶著谷歌工作證的小姐姐在 TED 中游刃有餘的進行著演講，時不時的和現場觀眾互動，表現的非常自然。 但是，這位小姐姐並不是真人，而是由 AI 生成的。
這個訊息讓人一時難以接受，怎麼說，現在的 AI 搞得影片已經不可信了，眼見不一定為真，影片確實可以 P。 就連小細節也是拿捏的非常精準。不過從影片來看，工作牌還是有些瑕疵的，當人物晃動身體時，我們還是能看到白色部分的偽影。 雖然有些小缺點，但也不妨礙 AI 技術正變得越來越先進，難怪網友發出這樣的感慨「現在的 FLUX + Runway Gen-3 Alpha 就是一個殺手組合。（上述影片就是這個組合生成的）」。Kling 版本是下面這樣的：
來源 https://x.com/jesselaunz/status/1822009842317558058 如果你覺得乾巴巴的影片沒有配音很難受，別急，配完音之後是這樣子的： 來源：https://x.com/srkndyck/status/1822008566091248017 Luma Dream Machine 效果是這樣子的： 來源：https://x.com/Kyrannio/status/1821895489840955421 但是，細看的話，生成的手指還是有缺陷，出現了三手指。據瞭解，上述影片都是在這張圖的基礎上生成的，影像生成用的是 Flux + LoRA。 來源：https://www.linkedin.com/feed/update/urn:li:activity:7227710205487128576/ 圖片是一位名叫 Leo Kadieff 的小哥在領英上率先發出，他表示這些圖片沒有經過放大或其他處理，是 Flux +LoRA 的原始輸出。 小哥已經在慶祝關於這張圖片的帖子已經在 X 上炸鍋了。回想三年前，圖片生成還停留在牛油果座椅，現在已經能生成真假難辨的人物圖片了。 圖源：https://x.com/javilopen/status/1821883326375825609 不僅能生成人物影片，Flux + Gen 3 這個組合生成的動物世界也讓人真假難辨。
在影片生成如此爆火的今天，就算你有一雙火眼金睛，可能也會面臨一個真假難辨的困境。 那些 AI 造假惹出的亂子 Deepfake 自誕生起就伴隨著巨大的爭議，甚至搞出了不少亂子。 例如，利用 AI 搞「黃色」，侵犯他人隱私和肖像權。 今年年初時，一組 AI 換臉生成的黴黴（泰勒・斯威夫特）不雅照在社交平臺上瘋傳，甚至驚動了美國白宮，發言人讓・皮埃爾（Karine Jean-Pierre）表示：「我們對此類虛假影像的流感測到擔憂。」再如，AI 換臉技術讓社交媒體充斥著假新聞。 今年的 Met Gala 紅毯上，凱蒂・佩裡和蕾哈娜明明未現身，但 AI 生成的紅毯照滿天飛，如果不細看很難找出破綻。（以下照片均為 AI 生成）還有「失蹤」幾個月的凱特王妃突然現身，「真假難辨」的圖片和影片引得全世界瓜民搬著板凳來「找茬」。AI 詐騙的案例更是比比皆是。 今年 1 月份，一家跨國公司成了 deepfake 詐騙的目標，其香港員工被騙了 2 億港元。 這名員工受邀參加總部首席財務官發起的「多人視訊會議」，並按照要求先後將 2 億港元分 15 次轉到 5 個賬戶內。得知受騙後，他才發現，那場會議中除了他自己，其它與會人員全部是經過「AI 換臉」和「AI 換聲」的詐騙團隊。 AI 詐騙猖狂的程度，連巴菲特都坐不住了。他在 2024 年度股東大會上表示，「基於深度偽造技術帶來的 AI 欺詐投資可能將會成為一個『不斷增長的行業』」。 或許以後，大家都不能再相信視訊通話，或者僅透過照片來確認身份，如果好朋友借錢，最保險的方式將是親自見面。參考連結：https://x.com/jesselaunz/status/1822009842317558058https://x.com/tonyzhu1984/status/1822036026661224945https://amp.cnn.com/cnn/2024/05/16/tech/arup-deepfake-scam-loss-hong-kong-intl-hnk
