人在坐，AI在看

乾明 魚羊 發自 凹非寺

量子位 報導 | 公眾號 QbitAI

教室之內，你做什麼AI都有記錄？！

為此曠視不得不回應了。

昨天，一張帶有“MEGVII曠視”圖示的影片監控影像在社交網路上瘋傳。

圖中顯示，兩名在教室中的女生身邊，顯示出了相應的課堂行為資料，比如趴桌子、玩手機、睡覺、聽講、閱讀、舉手等等。

伴隨這張圖，還有大量網友嚴厲的指責與質疑，認為這樣的技術不應該出現在課堂中。加之變臉AI應用ZAO引發的關注，隱私話題再次被談及。

不過相比起來，曠視對這些批評感覺有些冤，按照其官方回應，“這只是技術場景化概念演示”。

但引發的關注還在繼續，更多教育場景內的AI應用，也引起前所未有的重新審視。

攝像頭盯著你上課

事情跟剛剛進入的開學季有關。

九月新學期開始後，不少學生就發現，自己熟悉的校園中出現了人臉識別系統。

比如位於南京的中國藥科大學，在校門、圖書館和宿舍都安裝了人臉識別門禁。

對於智慧門禁，學生們的接受度倒是很高。有人認為這套系統識別準確，速度也很快；有人表示不再擔心忘帶校園卡，確實很方便。

學校保衛處負責人也表示，比起從前實行的校園卡刷卡通行，人臉識別系統的引入解決了過去師生忘帶校園卡的麻煩，也解決了代刷卡、複製卡等校園安保問題。

但這套來自“刷臉之王”曠視Face++的系統，可能不止是人臉識別刷門禁。

在梨影片的採訪中，校方介紹，這套系統不僅能對進入教室的學生進行全程人臉識別，還能監測到學生抬頭低頭，是否玩手機，是否發呆等行為細節。

關於這類系統，曠視也早有過相關介紹，目標所指是輔助教育：

在課堂教學評價系統中，曠視科技將自主研發的人臉識別、行為識別、表情識別等技術，整合在考勤及行為分析攝像機MegEye-C3V-920和行為分析伺服器中。

透過對課堂影片資料進行實時的結構化分析，反饋學生行為、表情、專注度、前排上座率等多維度課堂資料，輔助教學評估評價。

沒想到，竟然在社交媒體上引發大討論。

曠視在官方回應中說，自己在教育領域的產品專注於保護孩子在校園的安全。

相應的解決方案，可以協助學校管理人員提升效率並保障學生安全，主要用於智慧校門、教室門及宿舍的出入，方便學生安全出入校園。

至於引發討論的課堂行為分析圖片，是技術場景化概念演示。

但根據校方說法，相關係統已在兩間教室中進行 試點，如果效果好，會進行全校推廣。

其實，這樣的技術和應用並不算稀奇。有網友表示，這種校園分析的新聞去年前年就有了，現在竟然來了個大爆發……而且成為熱搜事件，著實意料之外。

教育場景正成為AI落地跑馬場

但不容忽視的事實是，這幾年來AI賦能落地千行百業的聲勢越來越大，在這樣的大趨勢面前，教育場景可以說是藍海一片。

《2019年中國智慧教育行業市場發展及趨勢研究報告》資料顯示，2010-2018年中國智慧教育行業規模持續擴大，增速保持在10%以上，2018年市場規模超過5000億元。

眾多AI技術公司、教育場景公司，都紛紛加入戰局，加入新紅利的爭奪中。

而且作為AI領域最為成熟的技術方向，各種計算機視覺/人臉識別方案早已見怪不怪。在校園中採用人臉識別技術，也都已經不稀罕。

但沒有哪家公司的方案，止步於門閘刷臉。

閘機只是切入點，更多方案提供商希望的是用AI來重構整個教育全流程，課堂自然是一個能夠大展拳腳的地方。

當然，水大魚大，競爭者也多。提供這樣方案的，遠不止曠視一家。

開啟搜尋引擎搜尋“課堂人臉識別”，能夠得到621萬條結果，各種大大小小的公司，都有相應方案。

其中甚至不乏更為驚人的“黑科技”方案。

比如掌門1對1，已經與商湯達成戰略合作，在情緒智慧識別等領域進行研究，目的就是透過線上輔導的情緒識別，看學生是否處於認真上課的狀態。

創始人兼CEO張翼還分享過用“腦電波”的設想：

腦機互動的可穿戴智慧裝置可以實時監測學生的腦電波資料，透過腦電動態資料採集分析，對學生在學習過程中進行情緒識別、疲勞度識別，分析判斷學生在學習過程中的精神狀態、思維活躍度和學習專注力。

此外，還有英特爾、K12線上教育機構海風教育，少兒英語教育結構VIPKID等等都有相應系統與解決方案提供。

總體來說，之前“一塊屏教育”的故事延續，就是AI可以幫助教學過程實現資料化、機器學習化。

而且談到AI落地傳統學校，也不是隻有這次引發關注的中國藥科大學。

隨手一查，案例新聞非常豐富：

比如2018年5月，浙江省重點杭州第十一中學（阿里雲之父王堅母校），將名為“智慧課堂行為管理系統”的科技應用於課堂教學。

新京報報導中表示，這一系統也可以對課堂上學生的行為進行分析，並對異常行為實時反饋，工作流程是這樣的：

系統每隔30秒會進行一次掃描，針對學生們閱讀、舉手、書寫、起立、聽講、趴桌子等6種行為，再結合面部表情是高興、傷心，還是憤怒、反感，分析出學生們在課堂上的狀態。

目前僅趴桌子一項為負分行為。若此類不專注行為達到一定分值，系統就會向螢幕推送提醒，任課教師可根據提醒進行教學管理，而螢幕僅任課教師可見。

不過，校方也給出了回應，在系統設計伊始，便考慮到了隱私問題，系統只採集程式碼，並非學生面部影像。

此外借AI落地之名進入校園，也不僅僅只是基於人臉識別的解決方案，還有基於各種感測器的“智慧校服”。

去年12月底，貴州10多所中小學的學生穿上“智慧校服”引起大量關注。

供應商介紹稱，這套智慧校服，能精準、及時記錄他們的出勤和活動。只要身著這套校服，學生進出校門的準確時間就會自動傳送給學校老師和家長。

而且如果未經許可出校門，那也會啟用自動語音報警器。校服還會配合校門口的智慧攝像頭一起使用，假如學生互換校服，警報也會響起。甚至它也能傳送準確的具體位置，幫助學校和家長快速定位。

但類似方案，也不是中國專利，全球同此涼熱。

早在2012年3月份，巴西也推出了類似智慧校服，引發了媒體廣泛關注。

巴西維多利亞達孔基斯塔市最早推出一款智慧T恤，這條T恤內建了晶片，可以讓家長知道孩子究竟有沒有逃課了。

還有瑞典（真歐洲國家）一中學，使用人臉識別等技術對22名學生進行了為期三週的跟蹤調查，記錄下他們每次進入教室的情況。

毫無疑問，這樣的人工智慧入校、AI+教育，也同樣引起了爭議與廣泛的討論。

爭議四起：隱私何在？

核心熱議焦點，依然是AI技術落地中的技術。

有抖機靈的網友說，學霸們研發的AI，正在不斷壓縮學渣摸魚的空間。

但更多網友，關注的還是技術價值觀的話題：技術本身無罪，但這並不代表技術的落地，不需要多方面權衡考量。

而且日常工作學習為攝像頭所監控，監控背後的AI還要分析量化你的一舉一動，未免讓人有些毛骨悚然。

另外在這場突然掀起的風暴之中，AI落地帶來的“隱私”邊界，也令人深思。

有微博網友認為，這種無死角全過程的AI監控，是在扼殺情感。

有人表示絕對不會讓自己的孩子處在這種環境之中。

也有人指出，這是對教育的本末倒置，學校應用這種技術，不是在培養人，而是在培養升學率。

“技術再好，用的地方不對有什麼意義呢？”

這種評論也代表了很多吃瓜網友的心聲。就像《黑鏡》中描述的未來科技，誕生之初哪有正邪之分呢？

除了隱私、自由，教育場景中令人擔心的還有資料安全問題。

2018年8月的一則判決文書中，就披露了一起非法出售學生資訊的案例。

當時負責管理維護安徽全省學籍管理系統的張某，利用職務之便，以每條1毛錢的價格，出售了4萬名學生的隱私資訊。據新浪財經報導，張某任職的公司正是科大訊飛。

前沿技術的發展，有時候遠超公眾的想象。當一項技術真正走向落地，就不再是小眾的狂歡，而要接受大眾的審視。

如何選擇更合適的技術落地場景，如何兼顧科技與社會人文，或許是AI賦能，必須要去面對和思考的問題。

國內國外，也開始越來越多傳遞出這樣的風向。

比如谷歌開始越來越多科普利於隱私的“聯邦學習”，騰訊在創辦20週年時將“科技向善”寫入公司使命和願景，而即將IPO上市的曠視實際也在招股書中明確建立“AI道德委員會”。

掌舵微軟AI的沈向洋還呼籲，應該每一項AI技術和產品應用前，都要透過倫理道德委員會審查。

雖然人類在發明汽車80年後才發明安全帶，但AI時代裡，我們需要現在就為AI技術繫上安全帶了。

總而言之，AI和隱私安全的話題，一切還不會就此終止，還會有更多事件、更多應用被放在聚光燈下審視。

你覺得呢？

— 完 —