領英1000多個假賬戶被曝光，用AI生成假臉冒充真人發推銷資訊，已形成相關產業鏈

明敏 發自 凹非寺
量子位 | 公眾號 QbitAI

Deepfake假頭像又又又來了。

這一次扎堆“轟炸”的平臺，換成了領英。

下面這個小姐姐，是不是乍看之下感覺普普通通，還很有親和力。

但仔細端詳一番，就會不斷發現破綻。

比如，怎麼只帶了一個耳釘？背景畫面為什麼高糊？有的頭髮還融入了背景？

而這樣的頭像不只是個例，是一堆！上千個的那種，全都是由AI合成。

從男到女、從老到少、不同膚色、髮色……基本上能涵蓋的都涵蓋了。

他們成群出沒的目的只有一個，為其背後的公司撒網式拉銷售業務，一旦找到有意向客戶，就轉接到真人銷售。

沒想到，繼充當水軍、冒充員工傳送惡意軟體後……AI換臉再次被拐上了違法犯罪的道路。

目前，領英已經將這些賬戶關閉。

史丹佛研究人員偶然發現

起底這次造假事件的，是兩位史丹佛大學的網際網路研究人員。

在偶然間收到一條推銷資訊後，Renée DiResta發現這個“銷售”有點不一般。

除了耳環只戴了一邊、頭髮邊界模糊等問題，它還有著GAN生成人臉的最大特徵：

眼球剛好位於圖片的中央。

這個特徵幾乎可以驗證出所有用GAN生成的人臉。

比如有人做過實驗，將20張假臉調成50%的透明度後疊加在一起，他們的眼球可以完全重合。

然後，DiResta就和同事Josh Goldstein一起，對整個領英平臺進行了一番調查。

結果發現，超過1000個領英賬戶都在用AI生成的人臉做頭像。

這些假賬戶來自70多個公司，乾的事情都差不多——

假裝公司的銷售給潛在客戶傳送訊息，然後再讓有購買意向的客戶與真人銷售建立聯絡。

由此一來，公司就不用花費大量資金在人力上，同時還能擴大自己的業務範圍。

而且，這套機制甚至已經形成了一套產業鏈。

也就是說，專門有公司來提供假人臉頭像、假資料資訊、併傳送推銷訊息。

比如這家總部位於印度的公司LIA。

在他們的訂閱服務中明確寫道：

只要使用者每月支付300美元，就能擁有一個AI生成的人臉形象。

它會有著與真人高相似度的長相，每天可以向20個人傳送銷售資訊等功能。

不過，目前這個網站已經“查無此站”，除了logo以外搜尋不到任何資訊。

Deepfake人臉，真的很難區分

其實這也不是AI換臉第一次被拐上違法犯罪的道路了……

就在不久前，谷歌報告了一起駭客傳送惡意攻擊軟體的事件。透過盜取員工真實資訊資料、再用AI生成假臉，駭客們用偽造的領英賬戶發出了大量釣魚郵件。

此前，亞馬遜被曝光出騷操作，用Deepfake在推特上給自己造了一批水軍，試圖扭轉輿論風向。

國內我們最熟知的“換臉靳東詐騙”事件，用到的也是類似技術。

顯然，真假難辨的Deepfake還充斥在我們的生活中。

而另一邊，今年發表在PNAS上的一項研究表示：AI生成的人臉和真實人臉沒有區別，甚至更值得信賴。

人們只有50%的機率分辨出一個人像是否由AI生成。

這個機率，和二選一亂蒙幾乎沒有區別……

在此，研究人員也彙總了一些Deepfake人臉的特徵來供大家區分。

• 背景通常非常模糊；

• 領口銜接不自然，衣服線條看起來不規整；

• 牙齒和嘴唇的邊界模糊；

• 頭髮絲會融入背景；

• 影像光線不自然；

• 雙眼在影像中完全居中。
  

參考連結：
[1]
[2]
[3]