會騙人也能拿到大廠的offer。近日阿里安全與清華大學共同舉辦了三場特殊的“騙人大賽”,向社會徵集挑戰者對阿里安全AI進行欺騙性攻擊。這項名為“安全AI挑戰者計劃”的賽事目前已經舉辦三場,在比賽中的優勝者將進入阿里安全校園招聘的考察視野,有望獲得在阿里安全工作的機會。
專注於人工智慧領域的系列“騙人大賽”,開出了高額獎金召集挑戰者共同打磨、訓練安全AI,內容涵蓋了文字、影像、影片、聲音等多個領域。
目前,影像分類對抗,辱罵場景文字對抗和人臉識別對抗三場短期賽已收官。主辦方表示,人臉識別對抗賽和影像分類對抗賽將長期開啟。
作為人工智慧領域最為典型的之一,圖片分類是計算機視覺系統的基礎。挑戰者的任務是對原始輸入樣本新增微小的擾動,欺騙影像分類的模型。在真實環境中,如果欺騙成功,會給很多實際系統帶來巨大的安全隱患。人臉識別對抗的挑戰任務也是透過對人臉影像做微小改動,欺騙AI系統做出錯誤決斷。
在日常網路社交環境中,“文字暴力”屢見不鮮。依靠AI對抗網路暴力是科技時代的一個重要解法,這也需要大量的訓練和模擬攻擊,幫助安全AI提升能力。
據大賽組織方介紹,三場以欺騙安全AI為目的的比賽吸引了全球200多所高校,100多家企業的3000多支隊伍3500餘人積極參與,其中50% 的參賽選手為學生。賽事收到2000萬條惡意樣本,沉澱了40多個具有前沿創新性的參賽原始碼和方案,激發出高校學生在安全AI領域極大的創造力,也為提升安全AI能力貢獻了力量。
阿里安全表示,比賽將長期面向高校學生開放,為安全領域的人才提供實戰平臺,成績名列前茅的選手不僅可以獲得獎金,還能包差旅參加線下的行業演算法會議。目前,阿里安全2020年校園招聘的通道已經開啟,在比賽中表現優異的高校學生,將優先獲得阿里安全的面試機會。