Google 亮劍：釋出 Deepfake 資料集，對抗 AI 造假

自九月初，  Facebook 首先發起對 Deepfake 的挑戰 以來，Google 也加入到反抗 Deepfake 的行列，昨日 Google  發文 宣佈，開源 Deepfake 資料集，以支援 Deepfake 虛假影像的檢測工作。

Deepfake，是英文“deep learning”和“fake”的混成詞，是一種利用深度學習演算法合成虛假影象、視訊等技術的統稱。在過去的一年中，Deepfake 生成演算法已經得到了足夠的發展，其合成的虛假影像甚至達到了以假亂真的地步。現在，人工智慧專家們正在尋找更好的方法來檢測這些所謂的“人工智慧造假”，尤其是在 2020 年美國總統大選來臨之際。

Google 在文中表示，本次開源的資料集包括 3000 個 AI 生成的視訊，其目的是為了建立大量示例，並幫助訓練和測試 Deepfake 自動檢測工具。目前，該開源資料集已合併到慕尼黑工業大學和  FaceForensics  基準測試中。你可以在  FaceForensics github 頁面 下載相應資料集。

Google 參與 FaceForensics 基準測試的視訊樣本

在過去的一年中，Google 為了製作此資料集，與演員們一起錄製了數百個視訊，並使用現有的公開 Deepfake 生成方法，建立了數千個 Deepfake 虛假影像。另外，作為 FaceForensics 基準測試的一部分，該資料集供研究社群免費使用，以開發出能夠準確檢測虛假視訊的方法。

演員在各種場景中拍攝

在過去的幾年時間裡，Deepfake 的負面影響多在名人、明星等群體範圍內，但現在，利用 Deepfake 的“惡搞行為”已經漸漸從娛樂圈蔓延到了政壇。

有報導評論稱，現在美國的政治界到處充斥著對於“虛假新聞”與操縱社交媒體的指責。一旦有人利用 Deepfake 蓄意炮製關於政要根本不存在的公開動作、發言等，這勢必帶來假新聞的泛濫，牽一髮而動全身，由政治風險波及到的經濟問題、外交問題等帶來的損失將不可估量。

好在目前像 Facebook、Google 等巨頭已經開始行動起來，想要通過技術手段解決 AI 濫用的問題。但是除了技術，或許社會、法律等方面也能夠做出的更多措施：

美國的弗吉尼亞州宣佈了擴大復仇色 情法，嚴禁經過“深度偽造”的內容，包括製作或操縱的視訊和使用機器學習製作的影象等，利用 Deepfake 製作的黃色影象亦包括在內。如果違反該規則屬於第一類輕罪，最高可判 12 個月的監禁，罰款額高達 2500 美元。

據悉，該法令已經於 7 月 1 日生效。根據法律，規定未經許可分享某人視訊的裸照照片是違法的 ，無論它是真實的還是假的。審查該法律的委員會將重點關注復仇色 情和網路傳輸色 情內容，其中包括利用藍芽等允許基於鄰近檔案共享的技術將未經請求的性影象傳送到人的手機上。

英國政府也正在討論一項法律，該法律專門涉及製作和分享非自願的親密影象，以應對濫用和冒犯性數字產品。討論該法律的委員會將重點關注復仇性質的色 情視訊，以及利用 Deepfake 演算法生成的色 情內容。

https://www.infoq.cn/article/YookJlyGAtaYbTsGH8SL

來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/29829936/viewspace-2658425/，如需轉載，請註明出處，否則將追究法律責任。