46秒AI生成真人影片爆火,遭線上打假「換口型、聲音」

机器之心發表於2024-03-28

是炒作還是真正的 AI 影片能力進化?


AI 生成影片已經發展到這個程度了嗎?

前段時間,英國王室凱特王妃的 P 圖事件,再次將人們的注意力吸引到了影像或影片造假上來。隨著 AI 偽造工具的「進化」,以假亂真、無中生有的內容也隨之不斷出現。

今天,一段宣稱完全由 AI 生成的不到 50 秒的影片在社交圈瘋傳,在「影片是否真由 AI 生成」這一點上,網友更是在評論區吵翻了天。

圖片

我們先來看這段影片。顯然,如果沒有提前被告知它由 AI 生成,我們大機率就會認為它就是真實影片。46秒AI生成真人影片爆火,遭線上打假「換口型、聲音」

上傳者表示,音訊和影片都是 AI 生成的,它們出自一款 AI 工具 Arcads。

圖片

有人想要上傳者提供 AI 生成的證據,上傳者只是含糊回答「影片就是 AI 生成,自己沒有那麼無聊。」

圖片

圖片

網友紛紛質疑:真人 + 口型替換?

有位博主表示,不相信這段影片是 AI 生成的,至少不是「輸入文字提示,獲取影片結果」這樣的工作流程,因此不是真正的 AI 影片。

圖片

他認為,影片中的人物在 AI 處理之前就已經存在,意味著它是真人和 AI 合成的影片。

圖片

另一位博主表示認同,稱該影片是真人 + AI 配音。

圖片

更多其他人也支援這種觀點,即在預先存在的影片(真人)中進行口型和聲音替換。

圖片

面對紛至沓來的質疑,影片上傳者展開了「對線」。她表示,這段影片之所以看起來真實,是因為自己將指令碼與 AI 模型進行了匹配。此外還分析了模型,接著根據影片人物的行為舉止新增了文字。

圖片

不過,她的回覆沒有說明模型是什麼,當然無法打消人們的疑慮。

有人表示,影片中是真實的人、開著一輛真實的車、穿著真實的衣服、真實的手和一切。Arcads 使用換臉或深度偽造技術來替換她說的內容。這與真正的 AI 生成影片有著細微但顯著的區別。

圖片

Arcads 介紹

在 Arcads 官方網站上,研發團隊介紹稱 Arcads 是一款人工智慧驅動的工具,旨在將文字轉換為高質量的影片廣告。它使用先進的人工智慧演算法來生成逼真的影片,只需要使用者提供文字。

Arcads 非常適合品牌營銷,特別是專注於數字產品、需要快速高效地製作大量影片廣告的團隊。Arcads 能夠提升廣告效果,同時減少製作時間和成本,在幾分鐘內就可以製作出影片廣告。

圖片

Arcads 工具地址:https://www.arcads.ai/

Arcads 使用的人工智慧演算法經過訓練,能夠理解情感線索和講故事的元素,確保每個影片不僅傳達預期的資訊,而且在情感層面上與觀眾產生共鳴。

此外,Arcads 還提供多語言功能,使用者只需點選幾下即可輕鬆翻譯和製作各種語言的影片廣告。

不過,也許真如一些網友所說,「他們只是使用開源模型為影片新增聲音」,這不能叫作「AI 生成的演員(AI generated actors)」。

圖片

看來,Arcads 團隊需要給出更多 AI 生成影片的硬核技術介紹,來回應這些質疑。

相關文章