阿里安全新一代安全架構核心AI技術獲國際頂會認可

一段包含多個人臉的影片中，攻擊者只對一個或者幾個人的人臉進行偽造，這種“半真半假”的偽造情況能否被檢測識別？近日，阿里安全圖靈實驗室宣佈，其已成功打造出針對這種換臉影片的DeepFake檢測技術，闡述該技術的論文被國際學術頂會ACM MM2020收錄。

DeepFake檢測技術具有許多現實應用場景的價值，比如攻擊者將不雅影片主角人臉換成目標人臉進行傳播等場景時，DeepFake檢測技術可“鑑偽求真”，追溯真相。

目前業界針對DeepFake換臉影片的檢測方案主要分兩類：幀級檢測和影片級檢測。幀級檢測方法標註成本高，還要將幀級預測轉化為影片級預測，對融合技術要求高，極易導致漏檢或誤檢，影片級檢測研究過多專注於按照時序構建的檢測模型，導致檢測效果受到一定限制。

阿里安全圖靈實驗室演算法工程師向溪介紹，為更好地檢測部分篡改的DeepFake影片，阿里安全圖靈實驗室提出了一種全新的檢測方法，這種方法標註簡單，並能幫助神經網路更好地學習人臉特徵，實現更好的檢測效果。

阿里安全圖靈實驗室還發現了攻擊者篡改影片時露出的馬腳，由於攻擊者對影片實行單幀篡改，導致同一人臉在相鄰幀上會有一些抖動，因此研究人員設計了新檢測模組來發現這些抖動，輔助識別。

此外，此前業界提出的檢測方法多適用於針對單人影片臉部篡改或多人影片所有人臉篡改，阿里安全構建了一個部分攻擊資料集，彌補了DeepFake檢測資料集在多人臉影片中只對一個人臉或者幾個人臉篡改場景裡的空白。

圖片說明：圖片包含三張人臉，攻擊者如果只對一個人的人臉進行DeepFake換臉攻擊，阿里安全新技術也可成功檢測 圖片來源：YouTube

透過技術革新，阿里安全圖靈實驗室DeepFake檢測技術在影片級檢測和幀級檢測領域均名列前茅。該技術的共同研究者、中科院計算所副研究員王樹徽認為，該研究成果對於一般性影片多例項學習與標註技術研究也具有重要啟發意義。

今年3月，阿里釋出新一代安全架構，致力於從源頭防範安全威脅，構建安全體系，並打造數字基建安全樣板間，阿里安全研發的DeepFake檢測技術作為新一代安全架構的核心AI技術，為數字基建的安全建設起到重要作用，併成功實現落地應用。

阿里安全圖靈實驗室資深演算法專家華棠介紹稱，截止目前，阿里已經將該檢測技術使用在內容安全場景中，後續也會在直播場景中進行佈局。