張學友4場演唱會抓5名逃犯，但人臉識別技術離濫用僅一步之遙？

大資料v發表於2018-06-18

640?wx_fmt=gif

導讀：今年4月7日至6月9日，張學友舉辦了四場巡迴演唱會——南昌、贛州、嘉興、金華。據一些媒體報導，4場演唱會中，警方一共抓到5名逃犯，這其中人工智慧及人臉識別技術功勞不小。（詳情可以戳我們之前發過的兩篇圖文：《在張學友演唱會的6萬觀眾中，AI鎖定了一名逃犯》《又一名逃犯在張學友演唱會被 AI 捕獲，人送綽號“熱心歌神張先生”》）

抓逃犯我們當然要鼓掌叫好。但換一個角度思考，如此神奇的人臉識別技術，如果被罪犯掌握，將會帶來怎樣的後果？

即便是在正常的商業應用中，如果缺乏監管和法律約束，在利益面前，商家還能守住良心的底線嗎？

而且，很多時候，我們根本不知道，在什麼時間、什麼地點，是誰在採集、識別我們的臉！

來源：THU資料派（ID：datapi）

01 “老大哥正在看著你”

進入人工智慧產業落地期，人臉識別技術已成為安防、金融、醫療、教育、智慧城市等領域應用最廣的技術。在國內，學校利用人臉識別，監督上課不專心的學生；公廁利用人臉識別，提防愛佔小便宜的人多拿廁紙；安檢利用人臉識別，讓警察在三場不同的張學友演唱會上捕獲逃犯；人行橫道上安裝人臉識別，將亂過馬路的行人照片公之於眾……

人臉識別技術的廣泛應用，似乎體現著一個智慧城市該具備的便捷、高效、安全、文明的特點，然而也不禁讓人內心產生不適感，彷彿無處不在的人臉識別讓自己無處遁形，甚至連細微表情所透露的情緒都不被放過。

640?wx_fmt=png

如果說，被監視、被記錄行蹤會讓人產生嚴重不適感，而相關資訊的暴露則會讓人恐懼了。有人認為，人臉識別只是對臉部進行編碼，雖然每個人的面孔都不同，但它們也是公開的，所以人臉識別技術並沒有侵犯人們的隱私。

但是，正如同《經濟學人》的文章所指出的：能夠低成本、快速和大規模地記錄、儲存和分析人臉影象的能力，早晚會有一天，會使隱私、公平和信任等觀念發生根本性的改變。

02 雜亂的產品市場，技術水平參差不齊

人臉識別，是基於人的臉部特徵資訊進行身份識別的一種生物識別技術。用攝像機或攝像頭採集含有人臉的影象或視訊流，並自動在影象中檢測和跟蹤人臉，進而對檢測到的人臉進行臉部分析、驗證等一系列相關技術。

在應用方面，人臉識別主要有兩個方向。

一種為1：1認證，即證明本人與證件資訊是統一的，主要應用於安檢、支付等需要實名制驗證的場景；
另一種為1：N認證，判斷某個體是否為特定群體中的一員，用於人員出入管理和城市安防，包括公安抓捕逃犯、打拐、曝光闖紅燈者等。由於1：N認證目前還不算特別成熟，往往需要人的參與和干預。

就目前而言，在我國應用最多還是1：1認證，也就是人臉識別中最初級的“證明你是你”。在衡量人臉識別能力時，很多公司都會宣稱其準確率超過99%，但這裡的準確率指的是在一些世界知名人臉資料庫比對中取得的成績。在現實運用中，由於人群樣本更大，不同光線、姿態、解析度等條件的影響，準確度要大打折扣。

英國《獨立報》最近報導稱，人臉識別技術可能不是像聲稱的所謂高科技警務解決方案，一項新資料顯示，英國大都會警察使用的人臉識別軟體在98％的案例中都沒有匹配正確。

640?wx_fmt=png

在特徵提取演算法方面，基於神經網路讓機器模擬出人類大腦的學習過程，並通過卷積神經網路模型和海量的圖片資料進行訓練，使生物識別的準確率大幅度提升。然而，由於深度學習需要應用大量的資料樣本和較長時間的訓練時間，對於整體運算環境要求也很高，目前所覆蓋的應用範圍不廣。很多市面上的人臉識別應用，還是以傳統的、成本較低的Local Binary Pattern（區域性二元模式）演算法為主。

隨著人工智慧成為風口，人臉識別技術商用進入“井噴期”，這其中“掛羊頭賣狗肉”的產品不少，存在較大的產業泡沫。以國內最常見的人臉識別應用——考勤機為例，價值數百元-上萬元元不等，價格越高，識別的精確度越高，其中最暢銷的千元機，只要臉部採集到的資料能吻合到六成以上，便能認定是同一人。

由於採集時拍攝下來的一些特徵相對單一，所以稍微改變某一特徵（比如摘掉眼鏡），精確度也會受到很大影響。良莠不齊的市場讓打著“人工智慧”旗號的人臉識別技術真假難辨，真正擁有高科技的人臉識別產品少之又少。

03 實際應用中的人臉識別技術容易被破解

去年央視3·15晚會上，主持人使用視訊模擬的方式破解了人臉識別，讓人們一度陷入刷臉並不安全的恐慌中；最近影響力極大的空姐打順風車遇害事件，也暴露出黑車司機跑“滴滴”，早已用軟體破解人臉識別技術的事實；以及不法分子利用FaceTime錄製使用者臉部視訊，藉以通過某些支付APP的“人臉識別”驗證，盜取使用者的支付賬戶的財產的新聞屢見不鮮……

一例例已發生的安全事故表明：人臉識別技術存在很大的漏洞。事實上，針對這些漏洞，很多安全專家已實現花式破解人臉識別。

在去年的FIT 2017網際網路安全創新大會上，平安科技的安全研究員高小廚（高亭宇）在現場演示了注入應用繞過活體檢測、視訊攻擊繞過活體檢測、三維建模繞過雲端檢測、臉部3D模具繞過雲端檢測、利用介面防護不當和各種設計缺陷5種不同的可以破解人臉識別的方法。

高小廚表示，一般的APP開發者不會自己開發人臉識別技術，而是通過第三方的API介面或SDK元件來獲得人臉識別功能，基於這個特點，他對人臉識別技術從接入到實際使用過程中的每個關鍵點進行分析，最終在多個環節都找到了多個突破點，進而讓人臉識別形同虛設。

在去年GeekPwn2017國際安全極客大賽上，畢業於浙江大學計算機專業的90後女選手“tyy”僅用時兩分半鐘就破解了人臉識別門禁系統，同樣引起了廣泛關注。她通過wifi進入門禁系統，利用系統漏洞直接獲取控制許可權、修改人臉資訊，把裝置中儲存的評委人臉換成了自己的臉，這也意味著可以用任意人臉來“矇騙”人臉識別系統，開啟門禁。

640?wx_fmt=png

總體而言，人臉識別系統並非絕對安全，因此現階段所有涉及支付的系統都不是採取單一“人臉識別”技術，而是要結合簡訊、驗證碼、手機尾號等傳統驗證手段一併使用。

採用多樣結合的驗證方法，表明許多企業在涉及“人臉識別”技術的商業化安全性上，也並沒有十足把握。更多的只是把“人臉識別”當成一項新的噱頭，嘗試吸引著大眾的關注。

另外，除了人臉識別技術在手機上本身的應用缺陷之外，許多問題導致的原因都是開發者在呼叫第三方的人臉識別服務時，沒有一個嚴格安全的行為規範，接入流程不夠嚴謹，甚至經常出現為了提高使用者體驗而捨棄安全性的做法，這樣的做法在技術實力不強的小公司十分常見，最終導致的結果就是，讓使用者把密碼寫在了自己的臉上。

04 大量使用者臉部特徵被呼叫

除了人臉識別技術容易導致隱私洩露問題外，人臉識別技術公司對大量使用者的臉部資訊進行徵集呼叫，其行為本身就足以令人擔憂。

基於深度學習的人臉識別技術，需要把一定規模的訓練資料“喂”給機器，提升它深度學習的能力，才能保證人臉識別技術在實際應用場景中達到預期的效果。因此，為了提高演算法的準確性，大量的資料積累必不可少。

此前，作為美圖秀秀的合作方，Face++已經識別了超過10億張照片，現在還建立了數億張照片的名人圖片庫。儘管Face++表示在採集到照片後會對照片進行脫敏處理，只提取照片特徵，而非照片本身，即使這些特徵在傳輸過程中被竊取，也無法還原出照片，但是未經使用者允許呼叫照片，本身就是一種對隱私的侵犯。

而Facebook的面部影象庫雖然不會被其他人提取，但是，舉個例子，該公司可以獲得參加車展的人的照片，之後用人臉識別技術在網上找到這些人，給他們精準地傳送汽車廣告。

人臉和其他生物特徵資料，如指紋，之間間的一個巨大區別是，它們可以遠距離起作用。智慧硬體、攝像頭隨時隨地採集我們的個人影像資料，長時間大規模地積累使用者資料，必然涉及個人資料與隱私保護的問題。

不管出於法律還是情理，每個人對於自己的照片、形象，應該有最起碼的知情權。企業、政府不顧及使用者個人意志，擅自採集呼叫臉部特徵資訊，本身就是一種侵權行為。

為此，也有很多人開始研究反人臉識別技術。俄羅斯最大的科技公司Yandex的技術總監Grigory Bakunov去年公開表示自己已經在網路上和其他幾個黑客一起，開發出了一種“反面部識別演算法”。這種演算法的實現方式是，以化妝的方式在臉上畫出特定的線條，以此干擾面部識別技術。Grigory Bakunov號稱這項技術非常有效，對於男女都適用。但為了避免技術被濫用，他並沒有公開反人臉識別系統的詳細演算法和原理。

640?wx_fmt=png

日本國立情報學研究所也曾經發明高科技眼鏡Privacy Visor，利用紅外發生技術，使攝像頭的面部識別系統無法檢測到人的面部特徵。眼鏡架上的紅外發生器能影響絕大多數的智慧手機和平板電腦，這樣拍出的照片在人眼看起來和普通照片沒有差別，卻無法識別面部資訊。

人們或許是出於被無時無刻“監視”的反感、或因企圖尋找人臉識別的漏洞而設計出反人臉識別方案，但很明顯這些技術不適合商業化，不然讓臉部識別在安防中的作用適得其反。

05 人臉識別技術所引發的道德問題

最後，人臉識別技術還帶來了不容忽視的道德倫理問題。譬如，史丹佛大學的研究人員證明，當展示一名同性戀男和一名異性戀男的照片時，演算法能夠具有81%的準確率分辨出他們的性傾向，相比較人類只能識別61%。在那些將同性戀被視為犯罪的國家裡，一款能夠從面部推斷出性傾向的軟體，會讓人感到恐慌。

而且，暴力程度較低的歧視將會更加普遍。比如僱主本就可以按照自己的偏見拒絕某人，但人臉識別可以讓這種偏見變得常態化，使得公司根據種族、智力和性取向等特徵過濾所有的求職者。

以及，持續的面部記錄，以及能夠將計算機化的資料繪製到現實影象上的電子裝置，或許會改變社互動動模式，讓人不自覺隱藏面部表情，企圖不暴露內心活動，人際關係變得更理性也更功利。此番景象，讓人不自覺聯想起小說《1984》中所描述的自由被徹底剝奪，思想受到嚴酷鉗制的令人窒息的恐怖社會。

06 完善人臉識別應用規範，任重道遠

不過，從另一角度看，人臉識別的普及已經勢不可擋，所帶來的好處也是顯而易見的。比如手機中的人臉識別可以用來解鎖手機，相簿可以對照片中的人物進行自動分類；一些機構可以用來查詢罪犯和丟失兒童；一些公司通過分析臉部特徵，來自動診斷罕見的遺傳病，比如特發性肢端骨質溶解綜合症，否則對它的診斷可能更難以實現等。

因此，如何平衡個人隱私與人臉識別商業化普及、政府廣泛徵用之間的衝突是急需解決的問題。

640?wx_fmt=png

自今年5月25日起，歐盟有一項號稱史上最嚴格的隱私保護法正式實施：General Data Protection Regulation，中文名為“一般資料保護條例”，簡稱“GDPR”。該條例旨在保護自然人的“個人資料”，包括姓名、地址、電郵地址、電話號碼、生日、銀行賬戶等。健康、宗教信仰、政治觀點、性取向更屬於高敏感級別，保護力度更大。

此外，條例採用“市場地原則”，即任何企業只要再歐盟市場提供商品或服務，或手機個人資料，都在條例的管轄範圍內。企業如果違反了GDPR，罰金最高可達2000萬歐元，或企業全球營業額的4%。

對於GDPR未來的影響和意義，各界人士有著不同的看法。有的人認為這是全球網民的“獨立宣言”，通過確立個人資料主導權的方式，GDPR為普通大眾確立網路空間的基本人權；而從另一角度看，GDPR會帶來額外的合規負擔，給企業造成額外成本，並導致某些企業處於競爭劣勢，同時，歐盟最想懲罰的如Facebook、谷歌等網際網路巨頭將幾乎不受影響。GDPR讓人意識到，政府的好意在實際執行中會出現偏差，這些措施太嚴厲，太急迫，無疑會對創新、企業發展和就業造成破壞。

從GDPR頒發後各界人士的顧慮可以看出，目前就如何平衡使用者隱私和保持企業創新的問題，國內外政府部門及行業專家並沒有更好的辦法或意見，只能隨著時間的推移、問題的不斷被暴露來實施相應對策。

六十年前，英國作家赫胥黎在《重返美麗新世界》中曾經預言，未來很長一段時間內，人類在政治、環境、科學等問題上將要面臨的眾多難題，如今他的這些言論正在一一被驗證。在未來，關於包括人臉識別在內的各種人工智慧技術所帶來的顛覆性革命和倫理道德問題，將持續引發各界的廣泛探討。或許，這就是現代文明進化的必然結果，科技帶給人類的，不全是幸福。

張學友4場演唱會抓5名逃犯，但人臉識別技術離濫用僅一步之遙？

相關文章