人臉識別技術運用中的認知誤區

AIBigbull2050發表於2019-12-23

來源:勞燕東飛


本文 6427字,建議閱讀 17分鐘


本文為清華大學法學院勞東燕教授關於人臉識別技術運用認知誤區的觀點分享。


『導讀』無處不在的攝像頭,幾乎遍佈每一個生活場景的人臉識別,其中存在著哪些認知誤區?又存在著哪些隱憂?清華大學法學院勞東燕教授帶來她的觀點分享。



『一』

生活在這個社會,我們逐漸習慣了越來越多的攝像頭。

很多人可能與我先前一樣,會以為這樣的攝像頭,不過是記錄自己在公共場所的行蹤,防止諸如交通違規之類的行為,所以並不為意。實際上,遍佈的攝像頭,正是為了與人臉識別技術相配套,方便這項技術大展威力。

去年以來,由於底層技術實現質的突破,人臉識別的準確率大為提高,其應用場景出現爆炸式的增長。

一如既往地,人們將之視為新技術的擴充,平靜甚至是相當愉悅地接納了它在諸多場景中的應用。有人甚至還開起玩笑,這下整容業要大受影響了。這樣的擔心有些杞人憂天。即便整容,由於人的雙眼瞳孔之間的距離是不變的,所以,根本不用擔心識別技術會發揮不了作用。

面對人臉識別技術的迅速推廣,人們所表現出的平靜與愉悅,大體上是因為,很多人將人臉識別技術理解為單純的識別與印證,不覺得有什麼風險。同時,除了在抓捕罪犯的場景,人們也往往沒有將這種技術的應用,與到處遍佈的攝像頭關聯起來,或者是下意識地將自己視為是監控的例外。

從此種意義上來說,人們普遍的並不為意,以及接受這項新技術時的平靜與愉悅,多少有些陷於盲目,並不知曉自身所處的真實境況。

將人臉識別技術理解為單純的識別與印證,是一種重大的誤解。實際上,這種技術不僅用來抓取個人的面部生物資訊,並與既有資料庫中的相應資料相比對。它還能進一步追蹤到個人的身份資訊、日常的行蹤軌跡、人與車的匹配、親屬關係的匹配以及經常接觸人員的匹配等。這是它與遍佈各處的攝像頭相配合的結果。而這一切,只取決於掌控之人想不想使用。

最新的人臉識別技術,不僅能夠指示性別與估計年齡,還能夠辨別個人的面部表情。由於它屬於人工智慧與深度學習的範疇,隨著技術的進一步發展,經解讀與分析而得出關涉隱私的資訊,可想而知會越來越多。多到足以為任何個人勾勒準確的使用者畫像。

如此海量的個人資訊,若是全能公正的上帝在收集、保管與使用,自然沒必要擔心。問題在於,這樣的假設並不成立。這是一個無神論的社會。

至於沒有什麼隱瞞老百姓就無需擔心之類的安撫話語,要是真地信了,未免太過天真。拋開頻頻出現的無罪案件與刑事冤案不論,果真如此的話,監獄裡關著那麼多的原國家工作人員,算是怎麼回事呢?政府哪還需要高調倡導反腐,又怎麼可能有層出不窮的保護傘需要打擊?

這意味著,人們對人臉識別技術的普遍接受,要麼是基於一廂情願的盲目樂觀,要麼是選擇性地無視或低估風險的結果。總而言之,就是在資訊匱乏的情況下,做出了有失偏頗的判斷。這也正是人臉識別技術一直未成為公共話題的重要原因。



『二』

稍做了解便可發現,現行的人臉識別技術,無論是在收集、保管還是使用的環節,都存在諸多的問題。這些問題關涉國民重大的切身權益,絕不只是要求放棄一些隱私方面的權益那麼簡單。

首先,從資料收集環節來看,人臉識別具有無意識性與非接觸性,可以遠距離發揮作用,並能長時間大規模地積累資料而不被使用者察覺,具有很強的侵入性。

人臉識別的技術,能夠在人們根本沒有感知的情況下,遠距離地進行抓取與記錄相應的資料。根據《中國新聞週刊》的報導(《人臉識別十字路口:臉的恐慌》),有專家稱,中國人每天要暴露在各種攝像頭下超過500次。所以,不用懷疑,只要開始使用人臉識別技術,就始終有一雙眼睛隨時緊盯著你我。成為透明人一樣的存在,不是出於想象,而就是活生生的現實。

然而,面部的生物資料明顯屬於個人資訊,即便按現在的法律規定,人臉識別的收集環節也涉嫌嚴重的違法甚至犯罪。因為很多場合對個人面部資料的獲取,根本沒有徵得被收集人的同意,難以認為是依法取得。

根據現行的刑法規定,不經同意而非法獲取,或者將合法取得的個人資訊出售或提供給第三方,此類行為均涉嫌構成侵犯公民個人資訊罪。

某些應用人臉識別的場景,表面看來是在被收集人有認知的情況下進行,似乎已徵得其同意。實際上,由於資訊告知不充分,包括收集的主體、收集的資料範圍、使用目的及範圍、保護措施與相應風險等均未予明示的前提下,被收集人事實上的認可,在法律上並不成立有效的同意,故收集行為仍屬違法。

其次,從資料保管環節來看,一旦收集主體未能善加保護,就會導致大規模洩露的情況;即便其採取合理的保管措施,也仍然面臨被駭客侵入而洩露的危險。由於個人的生物學資料具有穩定不變性,一旦洩露,相應的風險及危害即不可逆轉,也無法有效進行彌補。

今年有多起新聞報導涉及人臉資料洩密的問題。先是國內提供人臉檢測與人群分析的一家科技公司,被發現其人臉識別資料庫未設密碼保護,一直對外開放,導致256萬使用者資訊被洩露。近期又有媒體發現,在網路商城中有商家公開售賣人臉資料,數量達17萬條。

這些洩露後的人臉資料,究竟會被什麼樣的人使用,用於怎樣的場合,是否可能導致財產的損失與其他人身權益的侵犯,對此,我們都一無所知。可以確定的是,人臉資料的洩露,所帶來的潛在的安全風險,遠比手機號與賬戶資訊的洩露更為嚴重。

今年推出的一款AI換臉軟體,只需要一張正臉照,就可以將影片中人物的臉進行替換。換臉技術的出現,讓詐騙行為與製造社會恐慌等,都變得更為簡單易行。想想近些年電信詐騙的猖獗程度,就可推知,人臉資料的大規模洩露,會給社會帶來多大的恐慌,會讓多少普通人遭受重大的損失。

更何況,人臉識別技術本身就存在諸多的技術漏洞。《中國新聞週刊》的前述報導提到,在一次安全極客的賽事上,畢業於浙大計算機專業的一位90後女選手,僅用兩分半鐘就破解了人臉識別門禁系統,將裝置中儲存的人臉予以更換。

人臉識別的應用場景經歷了爆炸式的增長,但是,在如何保護相關資料的問題上,卻沒有做任何的強制性規定,而完全取決於收集方的意思。可想而知,因資料洩露而引發的風險根本難以評估。猶如一個 HUO YAO 桶,只要有一絲火星,就足以引發爆炸性的社會事件。

最後,從資料使用環節來看,由於未作任何限定,隨著人臉識別技術應用場景的大肆擴張,濫用與歧視的現象必將不可避免。

當下常見的應用場景,除了安保、門禁、支付與認證等之外,人臉識別技術也被廣泛用於商場流量統計、社群管理、養老金領取、辦稅認證、物品儲存、景區出入與演出場所的檢票等。它甚至還進一步被推廣用於教學過程,以監控與管理學生的課堂行為。還有,就是開始出現於地鐵的安檢之中。

拋開收集與保管環節的問題不論,從前述諸多的應用場景來看,當前對人臉識別技術的運用,顯然存在濫用的傾向。這樣的濫用,使得大規模的潛在操縱成為可能,而監控變得無所不在。有關濫用的風險,當前所揭示出來的一些情況,無疑只是巨大冰山的一角。

人臉識別技術還可能引發歧視的問題。研究表明,人臉可以顯示性傾向,且預測結果大部分正確。所以,同性傾向的人很可能會成為歧視物件。自然,歧視的領域遠不只此,還包括種族、性別、民族、地域與職業等方面的歧視。



『三』

可想而知,單是技術本身的突破,難以解釋人臉識別技術在應用上的迅速推廣。它在當前的大肆擴張,背後有兩大推動的力量,一是權力,二是資本。

從權力的角度,政府終於找到便捷的技術工具,以安全為名,對全社會做天羅地網式的防控。在資本的維度,從事研發推廣的企業,接近瘋狂地擴充業務,是為了儘快提升自身的市場估值與利潤。

不得不說,正是在權力與資本的親密合作下,人臉識別技術的跑馬圈地,得以像洪水一樣勢不可擋。由於對如何收集、儲存、傳輸、使用與處理資料,以及是否允許出售或提供給第三方,能否放在網上等,現行法律並未做任何的介入,這就使得應用場景的大肆擴張所可能引發的風險,也呈幾何倍數地增長。這不只是細思極恐,根本就是不敢想象。

對於權力與資本的這種合作,或許可以提出這樣的兩點質疑:第一,抓獲違法犯罪分子,難道是我們這個社會的首要任務嗎?第二,資本追逐利潤,難道不需要顧及起碼的社會責任嗎?

很多人誤以為,人臉識別技術的運用,不過是出讓少許個人的隱私,為效率與安全計,犧牲一些也無妨,這仍是一樁值得做的買賣。然而,如果認清人臉識別技術的實質,並獲知在資料收集、保護與使用各環節存在的諸多問題,恐怕只能說,這是一場與魔鬼進行的交易。

個人需要放棄的遠不只是一些隱私,而是絕大部分,甚至是全部的隱私。更為重要的是,人們也根本不可能獲得臆想中的安全。

是的,在安保中推廣人臉識別技術,的確可以多抓幾個犯罪分子。但你真地確定,這麼微小的收益,就足以抵消個人的生物資訊被洩露與濫用的風險?

認真思量一下,平時生活中,普通人遭受犯罪侵害的機率有多高。在沒有推行人臉識別技術之前,難道我們成天面對來自犯罪的威脅嗎?

一個號稱自身很安全的社會,怎麼可能會有這麼多的犯罪分子?一方面聲稱,這個社會特別地安全,經常以此自傲於世界;另一方面又認為,普通人無時無刻地受到犯罪分子的威脅,故有必要用天網技術來對付無所不在的犯罪分子。不覺得人格分裂嗎?我以為,這樣的人,要麼是裝腔作勢的騙子,要麼是愚笨得無可救藥。

不難發現,這樣一種對風險的隨意估測,顯得極為盲目。這或許是被權力與資本洗腦後的產物。問題在於,權力與資本明明在聯合算計著你我,以微利進行引誘,如果還反過去替對方著想,豈不可悲至極,愚蠢至極?



『四』

為了些許的效率,我們需要放棄的,遠不止是個人隱私,還有基本的安全。我們真地確定,這樣的放棄是值得的嗎?

在此,有必要回應三種常見的質疑觀點。

其一,既然指紋識別能推廣,為什麼人臉識別就不行?

這種觀點缺乏基本的邏輯。至少存在四個理由可予反駁。

首先,對公權力機構而言,在申領身份證時採集指紋,至少有《居民身份證法》的授權;而對個人面部資訊的採集,卻並無任何的法律授權。從各國的情況來看,強制採集國民的指紋,仍是較為少見的現象。雖然對外國人採集指紋的做法變得普遍,但在法治國家,往往以侵犯個人自治甚至違憲的理由,禁止政府採集普通國民的指紋。

其次,採集指紋的侵入性,在程度上明顯較人臉識別為低,風險也要小得多。畢竟,指紋不具有直接的可視性,與行蹤軌跡等其他資訊之間的關聯性較小,監控性也弱。相反,人臉識別與無處不在的攝像頭相結合,會形成高度的監控性。同時,在洩露與濫用的風險方面,人臉識別也比指紋識別要可怕得多。

再次,指紋識別的應用場景有限,且大多用於個人的手機或單位內部,而人臉識別強制應用的場景過多過濫。進行指紋識別時,個人對此一般都有認知;而使用人臉識別時,個人卻經常並不知曉。我們每天數百次地在不知情的情況下,被進行人臉識別。反之,有多少人能接受,每天數百次地進行指紋識別呢?

最後,只因指紋識別已在應用,便推匯出推廣人臉識別亦無不可,這在推理邏輯上也存在問題。質疑者的邏輯是,既然已經讓政府獲得採集指紋的權利,為什麼就不能進一步放棄人臉資料方面的權利?問題是,法律沒有明文授權,個人憑什麼讓渡自己的合法權利。照此邏輯推理,下一步,個人的體態資料乃至基因資料,是不是也可全盤放棄,交由某個組織全盤掌握呢?

其二,為什麼機場可以用人臉識別,而地鐵與其他的公共領域就不能用?

這種觀點似是而非。否定的理由有三點。

首先,這種質疑預設了未經證明的前提。人臉識別並非機場安檢的必備要件,而是近兩年方予應用。試問,此前難道就不存在有效的機場安檢了嗎?從我這兩年到德國、法國、英國與日本的旅行經歷來看,相應的機場均未見使用人臉識別技術,難道人家就不進行機場安檢了嗎?

其次,即便機場例外地有必要運用人臉識別,也不代表在地鐵或其他的公共領域可予推廣。機場的安檢原本就代表最高階別,不分場合實行同級別的安檢,呈現的只能是治理思路的混亂。不僅在必要性上存疑,也給民眾的出行造成嚴重的妨礙。

最後,即便人們在機場安檢時接受人臉識別,也不意味著相應的面部資訊就可用於機場安保之外的目的與場景。人們同意在機場安檢時進行人臉識別,相應的資料自然也只能用於機場安檢的目的,不代表可以隨意移用於其他場合。不然,就是超越使用者同意的範圍,而非法收集與使用個人的面部生物資訊。

其三,在地鐵中運用人臉識別,可以讓大家自願來選擇,為什麼不給這樣的選擇機會?

這種觀點表面看來言之成理,實際上完全不可行。

首先,自願選擇的前提是明確而充分的風險告知。如果將人臉識別技術的實質,以及在收集、保管與使用的環節中存在巨大風險進行充分的告知,我嚴重懷疑,會有多少人願意為些許的效率,而全然放棄自身的隱私與安全。

其次,地鐵實行人物同檢的安檢措施,必要性本身就存在疑問。倫敦、巴黎與東京等城市的地鐵,均經歷過恐怖襲擊,但都並未選擇實行人物同檢。理由顯然不是人家缺乏安保經費,而是經過理性考量,不適宜在地鐵這樣的場所推行人物同檢。

最後,考慮我國地鐵的擁擠程度,設立兩種安檢通道的做法,缺乏基本的可行性。因為這意味著,在地鐵安保方面,還要進一步加大投入。除了浪費國民的稅收,實在看不出這樣做的意義。財政收入是固定的,政府選擇將很多預算用到地鐵的安檢,勢必要減少民生方面的投入。

綜上,前述三種質疑觀點,要麼邏輯混亂,要麼似是而非,要麼不具可行性,均無法成立。



『五』

我不是技術的保守主義者,也不是要全盤反對人臉識別技術的應用。但是,在未獲得法律的明確授權之前,我反對公權力機構收集普通國民的面部生物資訊,因為這樣的收集缺乏基本的合法性。

至於人臉識別技術的商業性運用,由於涉及個人資訊的收集,收集方必須嚴格遵守有關個人資訊保護方面的法律規定。不僅要確保對資料的收集與保管的規範化,而且要對人臉識別技術的應用場景做嚴格的限定。

在商業性的場景中,對人臉識別技術的運用,至少應當符合四方面的要求。

第一,收集方必須就相關資訊與風險做明確而充分的告知,並事先徵得被收集人的同意。未經被收集人的明示同意,不得將個人資料以任何形式提供給第三方(包括政府部門),或者讓第三方使用相應的資料。在涉及犯罪偵查或國家安全的場合,可例外地予以允許,但需要嚴格限定適用條件與程式。

第二,收集程式應當公開,並確保所收集的資料範圍合乎應用場景的目的,未超出合理的範圍。收集方不允許超範圍地收集個人的面部資料,收集的範圍應當符合相應適用場景的目的,並以合理與必要為原則。

第三,收集方在收集個人的面部生物資料之後,應當盡好保管義務。收集方應盡合理的努力,對所收集的資料妥善保管;違反保管義務,應當承擔相應的法律責任。同時,如果被收集人撤回同意,或者明確要求刪除自己的資料,收集方應當對相應資料予以刪除。

第四,對人臉識別技術的應用場景,必須確保合法與合理,並避免侵入性過強的舉措。收集方在特定場景中所收集的資料,原則上不允許運用於其他的場景,除非該場景是在合理的預見範圍之內。如果擅自擴大或者改變資料的應用場景,收集方應當承擔相應的法律責任。

值得指出的是,與一般的個人資訊相比,面部生物資料的敏感特性,使得現有法律根本不足以提供充分的保護。尤其是,以同意為基礎的法律保護機制,在應對科技發展給個人資訊的保護所帶來的挑戰時,已經完全顯得捉襟見肘。基於此,法律界有必要做專門的調研,嘗試探尋有效而合理的規制路徑與保護措施。

個體的生物資訊,包括人臉、基因、指紋、虹膜與步態等,均具有不可更改性。所以,一旦洩露後果不堪設想,包括法律在內的諸多手段,都難以提供有效的救濟。相應的風險完全不可逆,根本不可能恢復到洩露之前的基本狀態。

這意味著,在沒有對收集、保管與使用的環節做嚴格的法律規制之前,人臉識別技術的肆意推廣,開啟的就是潘多拉的盒子。我們付出的,絕不只是隱私的代價,還有孜孜以求的安全。

因此,圍繞人臉識別技術的公共爭論,根本就不是隱私與安全之爭。它既危及隱私,也威脅安全。無隱私即無自由。長此以往,等待我們的,將是一個既無自由也無安全的社會。若結局如此,人們還會願意貪圖眼下的一時便利,而放手讓權力與資本大肆推廣人臉識別技術的應用嗎?

在人臉識別技術如何運用的問題上,只有撥開安全與效率的迷霧,不為權力與資本所綁架,才有可能做出理性的選擇。

— 完 —





http://blog.sina.com.cn/s/blog_cfa68e330102zrxf.html



來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69946223/viewspace-2670083/,如需轉載,請註明出處,否則將追究法律責任。

相關文章