社交媒體上的自動照片標記功能快速且相當準確，但不太安全。最令人擔憂的是，社交網路上的資料是公開的，並且在未經您同意的情況下被抓取用於私人面部識別資料庫。生物識別資料的不受監管的收集和使用是一種風險，而網路攻擊的增加加劇了這種風險。

隨著面部識別技術變得越來越普遍，您的面部簽名可能會出現在很多地方。您無法確定誰可以訪問您的生物識別資訊。有些人可能會反駁說，該技術的有益實施將抵消資料隱私濫用所造成的任何損害。

誠然，面部識別系統在我們周圍創造了奇蹟，從幫助執法部門尋找失蹤兒童、逮捕危險罪犯，到在機場和銀行證明您的身份。然而，在這些情況下，面部識別的缺陷也為濫用行為鋪平了道路，這次是以侵犯公民權利的形式。

正如我們將在下面看到的，必須解決面部識別帶來的資料隱私、公民權利和其他威脅，以避免弊大於利。

AI人臉識別的高風險應用

面部識別資料庫在執法中發揮著重要作用。執法機構經常被捕者的照片，並將其與當地、州和聯邦的面部識別資料庫進行比較。例如， FBI 從多個州資料庫中追蹤到了超過 6.5 億張照片。

面部識別將走過這些特殊攝像頭的人的面部與觀察名單上的人的影像進行匹配。觀察名單包含任何人的照片，包括未被懷疑有任何不當行為的人，這些影像可以來自任何地方，甚至可以來自我們的社交媒體帳戶。例如，任何帶有人名標籤的照片都會成為 Facebook 資料庫的一部分，該資料庫也可用於面部識別。

資料獲取方式很重要

懷著用尖端技術更好地裝備執法部門的願景， Clearview AI 其包含超過 100 億張影像的龐大資料庫。該公司還透露，任何使用者都可以上傳一個人的照片，然後該軟體可能會洩露該人的身份。

《紐約時報》 2020 年初對 Clearview AI 的一項調查顯示，該公司一直在挖掘線上圖片以建立龐大的。最初， Clearview AI 聲稱其應用程式僅供執法部門和少數私營公司使用。但《紐約時報》的文章明確指出，該公司一直歪曲其業務範圍和願景。

BuzzFeed News ，一份洩露的 Clearview AI 客戶名單涉及美國數百個警察部門和聯邦機構，包括 ICE 和海關與邊境保護局。洩露的名單中還包括 NBA、百思買、沃爾瑪和梅西百貨等各種令人吃驚的買家。儘管現在已有幾家公司與 Clearview AI 保持了距離，但其中幾家表示已經進行了試執行，僅此而已。

此後，這家初創公司繼續面臨大量訴訟。在法國、奧地利、希臘、義大利和英國提起的投訴稱，該公司收集和記錄資料（包括從公共網站自動提取的面部影像）的方法違反了歐洲隱私法。

征服 Clearview AI

Clearview AI 的工具遭到了科技組織和美國當局的嚴厲批評。儘管、 Facebook 和 LinkedIn 等平臺傳送了停止函，但 Clearview 執行長 AI Hoan Ton-That 表示，該公司擁有第一修正案的權利，可以在其系統中使用公開資訊。

然而， 2021 年 8 月，做出了有利於美國公民自由聯盟 (ACLU) 反對這家科技初創企業的裁決。法官表示，Clearview AI 不能利用第一修正案作為針對這起訴訟的辯護，只有在伊利諾伊州居民同意的情況下才能繼續其業務。

無意識偏見的風險

同樣，亞馬遜基於雲的面部識別工具 Rekognition 也是全國範圍內日益反對的目標。在 ACLU 2018 年進行的一項測試中，該軟體使用包含 25,000 張照片的資料庫錯誤地將 28 名國會議員識別為犯罪分子。

亞馬遜批評了這一結果，聲稱面部識別系統的置信閾值被降低了。但一年後，馬薩諸塞州 ACLU 發現 Rekognition 錯誤得將 27 名新英格蘭職業運動員與照片相匹配。美國公民自由聯盟發現，這兩項測試都與有色人種不匹配。

麻省理工學院媒體實驗室的研究人員發現，面部識別演算法在識別白人男性方面比識別女性和有色人種更準確，因為資料庫包含更多有關白人男性的資料，從而產生了意想不到的偏見。 ACLU 的結果證實了這一擔憂，因為在第一次測試中，Rekognition 的錯誤匹配中有近 40% 是針對有色人種的，儘管他們只佔國會的 20%。

亞馬遜、 IBM 和微軟暫停銷售人工智慧面部識別

在 Rekognition 顯示出對有色人種存在偏見後，亞馬遜受到了密切關注。作為回應，該公司暫停警方使用其面部識別技術一年。然而，2020 年 6 月，亞馬遜釋出了一篇令人驚訝的部落格文章，其中提到允許 Thorn、國際失蹤與受虐兒童中心和 Marinus Analytics 等組織使用 Rekognition 來幫助營救人口販運受害者並使失蹤兒童與家人團聚。

不久之後， IBM 和微軟宣佈將不再向警方提供面部識別技術，因為執法中使用的人工智慧系統需要進行偏見測試。 2021 年 5 月，亞馬遜延長了警察使用的暫停時間，直至另行通知。

AI人臉識別的現狀

面部識別可能是對個人隱私的另一種侵蝕。讓我們從兩個因素來評估這項技術：歧視和隱私。

1. 歧視：面部識別永遠不會 100% 準確。兒童、女性和有色人種的錯誤率，而白人男性的準確率為 99%。可以說，隨著時間的推移，人工智慧將會進步並使面孔“多樣化”，但就目前而言，它使少數族裔面臨風險。

2. 隱私：繼《生物識別資訊隱私法》之後，《商業面部識別隱私法》於 2019 年 3 月提交美國參議院。這些法案要求公司在收集個人生物識別資訊之前獲得個人的明確同意。面部識別技術的提供商和國家組織需要注意這些有關個人隱私的法律以及應採取的措施。

Clearview AI 的早期投資者之一 David Scalzo 表示，

“我得出的結論是，由於資訊不斷增加，因此永遠不會有隱私。法律必須確定什麼是合法的，但你不能禁止技術。當然，這可能會導致反烏托邦的未來或其他什麼，但你不能禁止它。”

我們不能忽視面部識別領域的突破。但考慮到它收集和儲存的資料量，對面部識別的擔憂不應被忽視。如果技術供應商不自願剋制自己，我們就希望迫使他們解決隱私、歧視和其他濫用問題。