與以往城市僅止步於限制政府部門的人臉識別應用不同，波特蘭市在公共和私人場合的雙重禁止人臉識別的應用，可能為其他城市開闢類似的數字隱私政策提供了一個路線圖，這也是隱私倡導者所希望的結果。
撰文 | 微胖
飛機飛過天空，天空之火，不過，那是矽谷的山火。在山火引發世人關注的同時，位於美國西北部俄勒岡州波特蘭市的糟糕局勢也在引發各方密切關注，甚至驚動聯合國。
自5月底黑人男子弗洛伊德被暴力執法致死，引爆新一輪全美反種族主義示威以來，近期，俄勒岡州波特蘭市一名白人男子在示威活動中被槍殺。三個月來，持續升溫的民憤、種族主義和警察暴力猶如一道道旋渦， 攪得時局天翻地覆，但更讓人驚訝的是，就在這樣的混亂中，本週三，波特蘭市議會卻透過了一項立法，該立法被廣泛認為是迄今為止最激進的人臉識別技術市政禁令。
兩項法令不僅禁止波特蘭所有市政部門使用人臉識別技術，還禁止私人公司在公共場所使用這項技術。
人臉識別系統在美國基本上不受監管，特別是私人企業的使用。奧克蘭、舊金山和波士頓也只是禁止政府部門使用人臉識別技術，而波特蘭禁止企業在公共場所使用該技術的禁令可謂開創先河。
一 為什麼禁止所有市政部門使用？
全面禁止市政部門使用該技術，背後邏輯既與當前糟糕局勢有關，更與「市情」密切相關。
市議會委員Jo Ann Hardesty將對高科技執法工具的擔憂，與波特蘭持續了三個多月的抗議活動聯絡起來。就在上個月，警方承認曾使用一架小型飛機監視波特蘭市中心穆爾特諾瑪縣司法中心附近的示威人群。
對於波特蘭市來說，禁止當地執法部門使用面部識別技術的決定「尤其重要」，「任何人都不應該因為技術演算法誤判了無辜的人而被不公平地推入刑事司法系統。」
不過，更重要的因素應該是該市的人口組成情況，種族和民族的多樣化也使得政策制定者更加難以處理國家面對的挑戰。事實上，這也是僅有幾個禁止政府使用人臉識別的城市包括諸如奧克蘭、舊金山這些城市的原因。
比如，《美國新聞》曾在2018年計算了 30 萬及以上人口的美國城市在其法定範圍內的種族多樣性，位居前十最具種族多樣性的城市大部分集中在了加州，比如奧克蘭。雖然未進前十，但舊金山也以種族多樣化著稱。
而波士頓的種族主義問題甚至傳遞到了體育運動中。麻省理工學院城市研究與規劃系教授Ceasar McDowell曾表示，種族主義行為已經是「內嵌成這個城市的DNA。」
維基百科顯示，波特蘭市內77.91%人口是白人，6.64%是非裔美國人，1.06%是美洲土著人，6.33%的人是亞裔美國人，0.38%的人來自太平洋島嶼，3.55%的人是其他人種，4.15%的人是混血兒。6.81%的人是西班牙和拉丁美洲後裔。
近些年，波特蘭的種族多樣化不斷加強，更多年輕人進入城市，而白人家庭則移居郊區。新移民中60%不是白人。
波特蘭市認識到，「這些技術對黑人，婦女和老年人的偏見已經得到了證明。尤其是在執法中，這類技術的使用可能會由於錯誤的人臉識別而造成不可挽回的損害。」
在主要科學根據方面，波特蘭市提到2019下半年，國際權威人臉識別供應商測試Face Recognition Vendor Test (FRVT)釋出的一些研究結果，特別是第三部分談到了這些技術在人口統計學上的影響，結果發現：
與白臉相比，這些演算法中的許多演算法錯誤識別黑臉或東亞臉的照片的可能性要高10到100倍。在搜尋資料庫中查詢給定的面孔時，大多數人在黑人女性中選擇的不正確影像的比例大大高於其他人口統計學中的比例。
值得注意的是，FRVT 由美國國家標準技術研究院(NIST)管理，主要目的在於測試人臉識別演算法水平，由於是相對獨立的第三方測試，受商業因素影響較小，因此，結果相對比較公平和公正。
除了權威測評，波特蘭市立法機構也注意到，研究人員甚至美國聯邦政府也都看到了這些系統存在的偏見證據。
比如，廣為流傳的2018年麻省理工學院媒體實驗室和史丹佛大學的一篇論文，針對來自三家主要商業公司釋出的面部分析程式分析發現，人臉識別系統顯示出皮膚型別和性別偏見。
在研究人員的實驗中，三家公司的人臉識別系統在確定淺膚色男人的性別方面的錯誤率從未低於0.8％。但對於膚色較黑的女性，錯誤率急劇上升，其中一種錯誤率超過20％，另一種錯誤率超過34％。
事實上，微軟公司已經宣佈將會暫停對警察機構提供人臉識別技術服務。而備受爭議的亞馬遜也曾釋出宣告，將會暫時禁止警方使用該公司的人臉識別技術，這份禁令將會實施一年。不過，該公司不會完全放棄人臉識別，將繼續允許其人臉識別技術應用於失蹤兒童尋找等方面。
二 為什麼禁止企業在公共場合使用？
至於為何禁止企業在公共場合使用該技術禁令，波特蘭市認識到，除了已經被證明的偏見，這裡還涉及敏感資訊。
「任何人都不應該將像自己的臉這樣私密的東西拍照、儲存，然後賣給第三方獲利。」Hardesty認為。
現在公司們並沒有一個可以用於評估、確定技術解決方案信任度的清晰流程，這就為潛在歧視和傷害埋下了可能，因為人臉識別不僅會搜集敏感資訊，還會導致那些蒙受技術偏見的人受到不利後果。
所以，作為避免傷害的預防措施，波特蘭市禁止在波特蘭市管轄範圍內的私人使用面部識別技術，而這些技術對所有波特蘭人來說都是常用的。
事實上，上文提及的FRVT測試是完全自願的，提交其演算法的組織往往是試圖向政府出售服務的企業供應商，或者是學者測試新的、實驗性的模型。除此之外，除了少數小公司，幾乎沒有一家大型的商業科技公司願意提交。
不過，這並不影響研究人員的發現，他們仍然找到了這些商用人臉識別系統中的偏見問題，而且權威媒體記者也曾曝光過企業在公共場合應用中存在的偏見問題。
路透記者曾歷時大半年採訪四十多人發現，過去八年時間，美國連鎖藥店Rite Aid悄然在全美200家商店中部署了人臉識別系統，這也是迄今為止美國零售行業規模最大的人臉識別部署專案之一。
部署目的主要用於防止偷盜導致的損失。一些店面的安全專員向記者展示了系統的運作原理：
攝像頭會為進入店鋪的顧客建立一個獨特的面部輪廓，然後與資料庫中有嫌疑、甚至有前科的人臉進行「特徵匹配」。發現可疑分子時，系統會對安全專員手機發出警報，專員在判斷比對準確性後，決定是否要求該客戶離開。
不過，在任何被認為是「經常不誠實顧客」的人的資料上做標記並新增到監控名單，必須得到經理的批准，會基於「多層有意義的人工評論。」
通常，新面孔會被新增到現有個人資料庫中，如果沒有發現任何可疑情況，十天後，該資料會被刪除。
然而，調查發現，在諸如紐約和洛杉磯這樣的大都會，位於收入較低或白人較少社群的店面更有可能部署人臉識別，其可能性是富裕社群的三倍多。
比如，位於貧困社群的25家商店中，有17家部署了人臉識別。而在較富裕地區，這一比例為40%。(還有10家商店位於財富狀況不清楚的地區，有六家門店部署了人臉識別）。
路透社將上述調查結果傳送給零售商Rite Aid之後，該公司現在表示，已停止使用該人面部識別軟體，新領導團隊正在評估該做法，稱「這是被終止的眾多專案之一」。後來，公司又表示所有攝像頭都已關閉。
實踐中，與微軟、亞馬遜等公司放棄程度不同，IBM公司直接宣稱其將放棄人臉識別業務，關停研發並表示不會再提供人臉識別技術。該公司還呼籲美國國會做出新的努力來確保公平正義與種族平等，理由是「反對將技術用於種族歧視和大規模監視」。
三 禁令陣列
應該說，美國公民自由聯盟（ACLU）在呼籲全美警惕人臉識別應用過程中，處在非常重要的地位。ACLU的積極活動也是上述美國連鎖藥店最終低調處理人臉識別技術的重要因素之一。
比如，ACLU 曾在部落格 Are Stores You Shop at Secretly Using Face Recognition on You? 中公開過調查發現，並表示很少有零售商願意公開談論人臉識別的應用情況。
本週三，該聯盟也慶祝了這項勝利，並認為這是一次歷史性的數字隱私勝利。「透過今天的投票，社群清楚地表明，我們在這座城市擁有真正的權力，」俄勒岡州ACLU臨時執行董事簡·卡森(Jann Carson)說。
「我們不會讓波特蘭變成一個監視州，警察和公司都可以跟蹤我們，無論我們走到哪裡。」
在公共和私人場合的雙重禁止人臉識別的應用，可能為其他城市開闢類似的數字隱私政策提供了一個路線圖，這也是隱私倡導者所希望的結果。
「現在，全國各地的城市必須向波特蘭看齊，透過自己的禁令，」「為未來而戰」組織的Lia Holland說。「我們有動力，也有意願擊退這種危險且帶有歧視性的技術。」
2019 年 5 月，美國舊金山市對人臉識別技術發出了禁令，禁止該技術在政府機關和執法機關中使用，從而成為全球首個對人臉識別技術發出禁令的城市。
7月，全美第二個禁止面部識別技術的城市出現了馬薩諸塞州的薩默維爾市。新政策生效後，該市各機構、分局或下屬部門，均不得在公共場所使用面部識別技術。
除了禁止市政部門積極使用人工智慧外，該法令還禁止在刑事調查或法律訴訟中使用面部識別軟體系統產生的資料或證據。不過，當地法律沒有限制州或聯邦執法部門使用面部識別的範圍。
2020年7月16日，位於美國加利福尼亞州的奧克蘭市投票透過了一項法令——禁止市政機構使用人臉識別技術。此舉使奧克蘭市成為繼舊金山市和薩默維爾市之後，美國第三個禁止人臉識別的城市。
奧克蘭市禁止市政機構使用人臉識別技術的理由是這項技術通常不準確、可能具有入侵性且缺乏標準。根據一致透過的條例，包括市警察在內的市政機構將被禁止獲得或使用這項技術。
另外，美國波士頓的市議會也以13票贊成、0票反對的結果透過了《波士頓禁止人臉監控技術條例（Ordinance Banning Face Surveillance Technology in Boston）》。
依據該條例，波士頓市的任何市政機關和公務員均不得獲取、保留、擁有、使用人臉監控系統，以及透過此類系統獲得的資訊，且不能透過與第三方合作繞過條例。違反條例規定獲取的人臉監控資料將被視為違法資料，一經發現即會被刪除。從源頭掐斷波士頓市政機關使用人臉識別技術的渠道。
至此，美國已知的、公開表示禁止人臉識別技術的城市已經達到8個。
參考資料：
https://techcrunch.com/2020/09/09/facial-recognition-ban-portland-oregon/?utm_source=feedburner&utm_medium=feed&utm_campaign=Feed%3A+Techcrunch+%28TechCrunch%29