紐約立法「禁」人臉識別，AI 緣何頻頻「折戟」校園

美國跟人臉識別徹底槓上了。

美國紐約州近日透過了一項法令：2022年之前，禁止在學校中使用人臉識別和其他生物特徵識別技術。

這也將成為全美首個明確規定學校不允許使用該技術的法案。

據南方都市報報導，這項法案提出的背後，是針對去年發生的一場有關校園應用的爭議。

2019年5月，紐約州西部城市洛克波特市開始在全市校園部署人臉識別裝置，主要目的是增強學校的安全性。

洛克波特市學區負責人米歇爾·布拉德利(Michelle Bradley)在接受外媒採訪時說，“這是使學生、員工和訪客更加安全的又一措施”。

洛克波特市官方資訊顯示，人臉識別系統將識別學校不允許出現的人員，並在識別到異常情況時發出警報提醒。

系統重點識別的人員包括二級或三級性犯罪者、被停職的學校員工、法院判決未經批准禁止進入學校的人員、執法部門資訊顯示會構成威脅的人員等等。

由於隱私等問題的存在，人臉識別應用在美國向來爭議頗多。

由此，洛克波特市也在紐約州教育廳等部門的監督下反覆修改了系統設定，最終決定只讓系統記錄人員比對的情況，不收集或儲存任何個人資訊，學生的照片等個人資訊也不會被新增到系統中。

另外，根據當地法律要求，監控影片儲存60天后將從伺服器上刪除。

2020年1月，這一系統在洛克波特市正式投入運營。然而，還是有一些美國民間團體認為人臉識別系統太有侵入性，不該在學校這樣的場所部署。

萬一系統對學生出現了誤報，更是會給學生帶來種種傷害，比如影響學生上課、給學生扣上莫須有的犯罪記錄。

今年6月，紐約公民自由聯盟提起訴訟，要求洛克波特市停用該系統。

這一起訴得到了當地部分官員的支援。

當地時間6月23日，紐約州議會眾議員莫妮卡·華萊士(Monica Wallace)和參議員布萊恩·卡瓦納(Brian Kavanagh)發表聯合宣告，重申了對隱私問題的擔憂：

“我們擔心該技術的使用可能侵犯學生、教職員工和訪客的隱私權及其他公民權利。這是一種無效的維護校園安全的形式，並且可能無法安全地儲存學生資料。 ”

據悉，目前紐約州參眾兩院已經投票透過的新禁令。

接下來，禁令將被提交給紐約州州長安德魯 · 庫莫(Andrew Cuomo)。如果他簽字透過，禁令就將成為正式的法律。

教室裝“天眼”

美國紐約之外，相關應用此前也在中國教室中被另類應用，並引發了一些社會輿論。

它可以洞察課堂上的一切行為。

此前，浙江省杭州市某中學課堂上多了一位神奇的新朋友：智慧課堂行為管理系統。透過這套系統，可以清楚看清、分辨哪些同學在專注聽課，哪些同學在開小差。

這套系統俗名為“天眼”，內建三個攝像頭，用以捕捉同學們的面部表情和動作，然後進行一系列大資料分析，最終計算出課堂實時考勤資料、課堂專注度偏離分析、課堂行為記錄資料以及課堂表情資料，並將結果反饋給校園管理方。

該校負責人表示，系統每隔30秒就會進行一次掃描，針對學生們閱讀、舉手、書寫、起立、聽講、趴桌子等6種行為，再結合面部表情是高興、傷心，還是憤怒、反感，分析出學生們在課堂上的狀態。(其中，僅趴桌子一項為負分行為。)

若此類不專注行為達到一定分值，系統就會向螢幕推送提醒，任課教師可根據提醒進行教學管理。

據悉，該系統還可與學校醫務室等其他後臺的資料打通，倘若學生因身體不舒服，還可列入“白名單”。

換句話說，在這套系統的“加持”下，同學們每天8節課的320分鐘中，多少分鐘專注聽課、孩子在學校開心與否，透過這套系統提供的資料結果，都可一目瞭然地得以展示。

對於該系統的落地、應用，某教育工作者黃老師表示：華而不實。

“學生有沒有開小差，老師在講桌前可以看得一清二楚。”

在他看來，如何能將“學”作為主動權緊緊握在學生手中已成教育管理者需要思考的問題。

學習從來都是一種自主性過程，教育的核心突破不是靠教具形式的升級，學生在課堂的認真程度取決於授課老師的魅力，強行監督只會讓很多學生成為“面具人”。

同時，該系統的應用也遭到了多數網友的痛擊：

暫且擱置道德層面不談，單從技術角度出發，該技術落地應用是否真的可行?

從上文來看，該套系統稱在課堂應用能夠發揮兩項功用：

一、課堂實時考勤資料。

由於教室學生基數不大;另外教室範圍也不大。目前很多人臉識別技術廠商都能夠很好滿足此項需求，不作詳敘。

二、課堂專注度偏離分析(微表情資料)。

從系統執行流程來說，它在安裝使用之後會進行兩大類操作：

• 一是人臉檢測，透過人臉相機檢測到同學們的臉部，從而完成第一點所說的實時考勤;
• 二是基於這些人臉資料做實時的深度分析，透過微表情識別來判斷學生們是否分神、開小差。

人臉表情由若干條細微的小肌肉控制，與常見人們發出的較為誇張或者平常的表情不同，微表情持續時間很短、動作幅度很小。

另外，微表情是一種自發式的表情，在人試圖掩蓋內在情緒時產生, 既無法偽造也無法抑制。

與其他生物識別技術的研發相比，微表情識別因為太過細微，一直是計算機視覺領域一個具有挑戰性的技術難題，該技術的研發門檻較高，技術難點主要體現在三個方面：

• 資料收集，這裡的資料必須是動態的影片資料;
• 肌肉單元很難做標註，每個人對錶情的定義都不相同，“微笑”“難過”等標準難以判定;
• 微表情識別必須在五分之一秒內抓取到情緒變化，也就是要做到一秒鐘處理五幀以上畫面，讓資料做到實時。

雷鋒網(公眾號：雷鋒網)瞭解到，目前這一技術最多地是用在金融領域。

以信貸行業為例，如今騙貸行為頻發。當涉及大額的貸款申請時，金融機構在批放貸款之前都會讓面審員與使用者進行一個十到十五分鐘的問答。

起初會核對使用者的基本資訊，在使用者回答的過程中，會為使用者進行一個微表情的側寫，記錄一個使用者回答問題的習慣。

隨著面審員問題的深入，使用者在回答之後地問題時，如果出現了違反他之前的回答習慣(例如眼睛從直視螢幕轉為眼睛往上瞟或往腳下看)，系統則會為其標記一個異常。

當整個面審環節結束後，系統會根據之前記錄的異常次數、等級進行一個綜合評估反饋給面審員。

如果前後差距過大，就意味著從基礎問題到追問環節，此人的情緒、心理變化較大，如此就可提醒面審員此人有一定風險，要做更多地調查，以更好地降低風險。

從這來看，這項技術應用的前提還得配合面審員問題的逐步深入而出現的細微面部表情變化。

回到主題，學生們在上課過程中，沒有任何言語上的思考及負擔，也就意味著所有的面部表情都是自然狀態下而產生的，斷不可從單一的面部表情的變化去判斷他的心理活動或者是否分心(缺乏標準)。

宇視智慧演算法開發部專家楊治昆直言，“對於這套系統的可操作性，我持懷疑態度”。

在他看來，這套系統在實際應用過程中，會存在以下幾個問題：

• 任何AI技術的落地都要保證誤識率可控。一般來說，正常教室的長度在十二米左右，不近的距離透過機器去判斷每個同學們的面部細微變化，難度巨大;
• 任何產品的落地，都需要考慮光照等各種複雜環境的影響，這套系統也需要考慮上午、下午、夜間等教室內的環境變化。機器如何能夠確保實時複雜場景下的準確識別?
• 影片監控下的學生是動態的，應用場景是非配合式的，這種情況下識別難度會進一步提升。機器如何能夠做到不同角度的準確識別?

楊治昆表示，這些年AI技術發展迅速，教育市場也的確成為未來AI安防落地的重點擴充方向之一，如今各大安防廠商都在緊盯這塊市場。

但從產業界角度來看，相關技術不能盲目落地。人工智慧應用要保證識別率、誤識率、魯棒性，唯有滿足這三點，技術的落地才會具有意義。

目前來看，比較容易落地的場景包括門禁、人臉考勤等等，而該系統提出的微表情分析，就目前AI發展水平來看，還存在很長一段距離。

在他看來，“一個產品的落地，除了要考慮客戶的需求也要考慮到受眾人群的體驗”。

本文轉自雷鋒網，如需轉載請至雷鋒網官網申請授權。

【編輯推薦】