精密識別下驚現“AI障眼法”； AI監視之下一展“隱身術”！在10月24日於上海舉辦的GeekPwn國際安全極客大賽的現場，一眾駭客與AI針鋒相對，再度技驚四座，為觀眾呈現了一系列扣人心絃的人工智慧攻破挑戰。
霍金教授生前曾預言：人工智慧崛起要麼是人類最好的事情，要麼就是最糟糕的事情。正如任何事物都具備的兩面性，AI勾勒出令人嚮往未來的同時，其帶來的安全威脅也可能是人類從未面臨過的。作為全球首個探索人工智慧與專業安全的平臺，GeekPwn2019繼續對AI安全展開了探索。
高精度影像識別AI緣何“指鹿為馬”？
AI技術的發展，讓人臉識別技術備受青睞，“刷臉”目前已經被應用到了大部分領域。ATM機上的刷臉取款、自動售貨機的刷臉購物等等。相比於肉眼識別，AI人臉識別確實可以大幅度提高識別精度。大範圍的應用普及似乎賦予了AI“至高無上的權利”，然而，在極客眼中，它們並非能夠做到萬無一失，甚至會將肉眼能夠輕鬆識別的事物完全錯認。
作為GeekPwn大賽的重頭戲，此次CAAD CTF影像對抗樣本攻防賽為選手提供了三個挑戰：定向攻擊，非定向攻擊，並攻擊知名人臉識別服務，其中非定向攻擊要求選手透過一張對抗性圖片欺騙三組開源分類器，定向攻擊則要求選手利用一張對抗圖片讓開源分類器將圖片錯認為某一固定事物，而人臉識別攻擊則要求選手對三款人臉識別服務發起挑戰。透過長達三輪預選賽的激烈角逐，共有六支戰隊來到GeekPwn舞臺決賽現場。
CAAD影像CTF各戰隊展開角逐
在比賽中，來自清華大學的TSAIL戰隊首先在“非定向識別”、“定向識別”前兩項任務中取得高分，並在難度最高的第三項“人臉識別攻擊”挑戰中成功欺騙影像分類器，讓Clarifai人臉識別系統將黃健翔識別成伊萬卡，雖然置信度很低，但依照比賽規則，選手攻破成功！最終TSAIL戰隊以最高229.77的總得分，獲得CAAD影像CTF專案冠軍。
在AI之眼下實現隱身需要分幾步？
或許是與生俱來的獵奇心態，亦或是對未能實現事物特有的憧憬，人們對於“隱身”這項能力似乎有著獨特的情結，而這一情結也在諸多影視作品中演繹得淋漓盡致：哈利波特中“隱形斗篷”；神奇四俠中的“隱形女神”蘇珊斯通，蝙蝠俠中的超級反派幽靈紳士……在GeekPwn2019的舞臺上影視橋段中的“超能力”成為了現實。CAAD隱身挑戰賽中，選手僅透過A4紙便在AI的監視下成功實現了“隱身”。
根據“CAAD隱身挑戰賽”的規則，評委現場指定兩款標準演算法模型，兩種演算法可以從影片或影像中進行目標檢測識別人體的存在。而選手們則需要在規定時間內，透過總面積不超過一張A4大小的對抗圖片來遮擋身體，並在現場接受演算法的實時檢測，如果演算法模型識別不出人的存在且結果維持10s以上，則挑戰成功。
CAAD隱身挑戰賽選手讓現場觀眾實現“隱身”
在比賽現場，Hiding Cat、NISLer、TSAIL三支戰隊選手透過列印多張“影像對抗樣本”，並讓現場觀眾將樣本舉在胸前，成功躲過了檢測系統的識別完成挑戰。三組選手的成功挑戰檢測距離均為1米，其中TSAIL戰隊使用的紙張面積最小，僅為196平方釐米。值得一提的是，此次比賽選手全部攻破的是被視為“目標檢測網路的巔峰之作”的YOLOv3系統。
全新推出的CAAD隱身挑戰賽對於AI安全來說有著極高的現實意義，在對抗樣本的作用下，活生生的人可以在鏡頭下實現“隱身”，犯罪分子甚至可以逃避執法機關的追捕，成為行走在鏡頭下的“危險隱形人”！
此次GeekPwn2019 CAAD系列比賽，為我們呈現歎為觀止的攻破挑戰的同時，也為當下“大紅大紫”的AI技術安全性敲響了警鐘，一旦對抗樣本在某些真實環境下被濫用，便很有可能造成極為嚴重的後果。
在人工智慧與大眾的生活越來越近的今天，前沿技術的安全性研究需要引起更為廣泛的重視，保障人們在享受科技的同時規避其高速發展帶來的風險。GeekPwn自創辦以來便一直專注於智慧生活與專業安全，為大眾帶來極具腦洞的破解展示，並向廠商提交近千個漏洞，讓更多的人關注到前沿安全的重要性，讓人們的未來生活更加安全。