人臉識別安全面臨三重挑戰

THU資料派發表於2020-03-10

疫情期間,口罩成為人手必備用品,即便在高鐵、飛機上也得時刻戴著。不過這也帶來了一些困擾,戴著口罩導致無法“刷臉”解鎖手機,車站閘機口如果採用的是“人臉識別”通道,則需要需要摘下口罩才能完成,一定程度上加大了感染的風險。

此前,國外一位產品設計師 Danielle Baskin 釋出了一款帶有面部資訊的口罩,帶著口罩也能用 Face ID 解鎖手機。簡言之就是,透過提取使用者被口罩遮擋部分的面部資訊,然後印製到口罩外側,戴上後拼湊成完整的臉部。

人臉識別安全面臨三重挑戰

雖然,Danielle Baskin 也在 Twitter 上坦稱,認證成功率目前還在測試當中。但訊息釋出後,不少人對人臉識別的安全性再次產生了懷疑,如果他人戴著印有自己面部資訊的口罩去解鎖手機,能否解鎖?

人臉識別作為人工智慧領域的一大熱門方向,適用範圍逐年越來越廣。無接觸式的人臉識別方式極大地方便了人們的生活,只需要有攝像頭,便可以在幾秒甚至零點幾秒內完成出入、支付等身份認證。

但是,人臉識別的安全性究竟如何呢?

那些被偷走的人臉資料

人臉識別在人們日常生活中的應用,最早是作為一種更加便捷高效的認證方式替代指紋認證。相較於指紋,人臉識別的無感解鎖、無感支付使使用者體驗更加順暢,由此獲得了前所未有的關注。

但值得警惕的是,當我們授權某個人臉解鎖場景時,往往可能將我們的面部資訊與姓名、手機號、身份資訊甚至家庭住址做了繫結。這就意味著,一旦我們的人臉資訊被洩露,我們其他的繫結資訊也可能隨之被盜用

人臉識別安全面臨三重挑戰

1 月 18 日,據《紐約時報》報導,美國一家 AI 面部識別創業公司 Clearview 設計了一款人臉識別應用程式 Clearview AI,透過拍攝陌生人的照片,然後將其上傳,就可以輕鬆檢視該人的公開照片,以及指向這些照片出現位置的連結和具體內容。

這項“照片搜人”的應用其實早已不是新鮮事,早在2016年,俄羅斯初創公司FindFace就支援透過照片和Vkontakte(類似於Facebook的俄羅斯社交網路)的個人資料照片進行匹配,僅憑一個人的照片,就能找到陌生人在社交軟體上的賬號。

人臉識別安全面臨三重挑戰

雖然這個應用宣稱可以幫助“和陌生人建立友誼”。但是問題在於,透過人臉識別系統的每一張人臉特徵都被收錄進系統後臺的人臉資訊庫,這是一個龐大的資訊庫

如果FindFace不合理使用這些擁有不同維度人臉資訊庫裡的資料,比如學校檔案、企業客戶列表、大樓進出人員資訊、商場顧客行蹤等等,將有可能引發惡意騷擾、人肉等威脅事件人臉識別技術對我們隱私的侵犯或許讓人無法想象。

而且,在如今“資訊即財富”的時代,龐大的人臉資訊庫早已成為不法分子盯上的一塊大蛋糕。上文提到的人臉識別初創公司Clearview AI近日被曝出遭到駭客攻擊,其合作的600多家執法機構和銀行資訊全部被竊取。

人臉識別安全面臨三重挑戰

類似事件在國內也早有發生,2019年2月,GDI基金會的荷蘭安全研究員曝光國內某人臉識別公司發生大規模資料洩露事件,超過250萬人的資料被獲取,680萬條記錄洩露,其中包括身份證資訊、人臉識別影像及捕捉地點等敏感資訊。

可以猜想,如此規模的資訊被洩漏,不法分子可以輕而易舉實施大規模監控、定點犯罪。而作為當事人的我們,卻渾然不知。

影像“補丁”輕易攻破識別演算法

我們知道在人臉識別應用場景中,人臉影像扮演著“密碼”這一角色,密碼可以“破解”,人臉也不例外

伴隨著人臉識別技術廣泛應用於刷臉認證、刷臉支付等場景,各種破解人臉識別系統的新聞不斷湧現。

iPhone X搭載的3D結構光活體檢測被稱為當前安全係數最高的人臉識別檢測技術,但2017年,一家越南公司透過 3D 列印面具成功騙過了蘋果的Face ID,實現瞭解鎖。

人臉識別安全面臨三重挑戰

由於成本原因,目前市面上使用的人臉識別系統大多並非3D結構光活體檢測,而是2D靜態檢測或者加上動作驗證,所以我們經常能夠看到諸如豐巢“刷臉取件”被小學生用列印的照片破解、智慧防盜門被合成影片破解等新聞。

從成本方面考量,3D列印面具的破解方式較複雜、成本過高;從破解率來看,“照片騙局”無法透過活體檢測。

近年來機器學習領域興起另一種熱門方法——對抗樣本,透過新增肉眼察覺不到的噪音欺騙神經網路,讓識別系統出錯,是一種誘導識別演算法的影像“補丁”。

2019年,華為莫斯科研究中心的研究者們用印表機打出一張帶有圖案的紙條貼在額頭上,就讓某些公開的 Face ID 系統識別出錯。

在此之前,RealAI安全研究團隊也同時實現了基於對抗樣本技術破解人臉解鎖的案例。不同於華為團隊破解公開系統,RealAI團隊在商用手機上成功實現破解,攻擊難度更上一個臺階,是世界範圍內首個在現實世界中實現黑盒攻擊的團隊

人臉識別安全面臨三重挑戰

如果說手機人臉解鎖被破解僅僅可能是侵害隱私或者損失金錢,那自動駕駛識別系統如果被攻擊,付出的代價可能是生命。

人臉識別安全面臨三重挑戰

來自全球最大的安全公司之一McAfee的兩位研究人員,在35英里/小時的速度標誌,貼了一條2英寸的黑色膠帶,略微拉長了數字“3”的中間,直接誤導特斯拉的自動駕駛系統從35英里/小時加速到了85英里/小時。

騰訊科恩實驗室也曾於2019年4月釋出研究報告,研究人員在路面上貼上三張貼紙來模仿合併條帶,使特斯拉自動駕駛汽車拐進逆行車道。

對抗樣本」方法的實現成本僅僅是列印一張紙,但卻能讓識別系統發生災難性的錯誤。一旦相關技術像Deepfake一樣被大規模濫用,罪惡因子可能就此被埋下。

非剛需的人臉識別應用氾濫

廣闊的市場前景讓人臉識別行業受到資本追捧的同時,也引來了眾多科技企業的爭相探索。為了擴大並快速搶佔市場份額,不少企業“開荒闢土”,為人臉識別的落地開拓出眾多全新場景。

但就如專家表示,現在的人臉識別技術並沒有很完美,一些人臉識別的應用效果未及預期,這就導致人臉識別在一些非剛需場景上的應用存在爭議。“應用為先,安全第二”的落地標準更是讓安全風險暴露無遺。

人臉識別安全面臨三重挑戰

比如人臉識別在“智慧校園”的應用。目前國內多所高校陸續在校門設定人臉識別閘機,拋開裝置的經常性故障、受光線影響等問題,現階段多數人臉識別閘機為了保證快速落地應用,搭載的識別演算法主要是平面的圖片對比,並沒有按照真人的生物特徵去進行運算,安全級別低

另外還有在隱私侵犯邊緣試探的應用,比如高校教室裡安裝人臉識別系統對學生課堂聽講情況的全程監控,任何動作都都逃不過人臉識別系統的“法眼”。這不僅侵犯學生的個人隱私,背後的資訊去向更為人擔憂

人臉識別安全面臨三重挑戰

目前很多高校資訊化程度高、資訊化意識也較強,擁有自己的資料中心,校內的識別系統採集到資料會儲存在學校的伺服器。但如果是普通的幼兒園、小學等單位,資料有可能是被儲存至廠商處,最終資料會流向何處難以得知。這些單位往往只是覺得人臉識別是比較流行的一種方式,但對背後的資訊保安缺乏概念。

而且從應用效果上來看,人臉識別應用最為廣泛的門禁“刷臉”也略顯雞肋,識別準確率低,容易出現“認不出人”的問題。一些“智慧幼兒園”在家長接送孩子入園環節啟用“刷臉”門禁系統,但這貌似並且沒有給老師帶來安全感,現階段人臉識別裝置可靠性低,讓不少老師擔心接孩子的時候出現冒領的風險。

顯然,當前的人臉識別的很多應用尚處於“嘗新”階段,還不能做到非常成熟,超出需求本身的大範圍應用增加了發生安全風險的機率,一定程度上加速了安全問題的顯露。

雖然目前人臉識別距離安全還有一段距離,但我們不能一口否定技術發展,矯枉過正也只會限制技術發展。技術沒有絕對完美的,但好在技術始終在迭代。

當然,安全問題也不完全是技術問題,也是應用問題。未來,還需要行業、企業、政府等協同努力,尋找隱私、安全、便利之間的平衡,明確人臉識別的邊界,真正地為人臉識別應用發展出“安全感”。

相關文章