以馬斯克為代表的專家總是警告人們：人工智慧會製造人類難以想象的惡意行為。事實上，被人們依賴的 AI 也不那麼完美、可靠，AI 在安全性方面還存在缺陷。在 INTERFACE 第七期中，我們邀請到了 GeekPwn 黑客大賽創辦人、碁震公司創始人兼 CEO 王琦與清華大學計算機系長聘副教授朱軍來一起討論 AI 安全的攻與防。
演講主題一：人「攻」智慧
演講摘要： AI 應用系統是一個整體，任何環節出現漏洞，都有可能出現安全問題。以極棒實驗室研究的攻擊人臉識別系統為例，使用傳統的黑客攻擊方法，如攻擊者通過侵入並控制該系統管理端，利用其作業系統漏洞和應用層邏輯漏洞等，最終都可攻破系統。再看人工智慧現成的框架和庫，例如 OpenCV、TensorFlow 等都已經被研究者發現存在漏洞。除此之外，對於演算法本身的攻擊也成為研究 AI 安全領域的重要方向。如果說 AI 僅僅是工具，那麼被不同的人利用效果也會有所不同。利用 AI 模仿人類聲紋、筆跡等等，都曾成功在極棒比賽現場復現。當越來越多的 AI 被運用於我們的日常生活、工作中，關鍵問題在於它真的值得信賴嗎？人工智慧在模仿人類的同時，不可避免的和人一樣存在缺陷。如果我們不能及時發現並消滅這些缺陷，這些可以被惡意利用的顯而易見的隱患將會造成更大的威脅。GeekPwn2018 設立了 CAAD（對抗樣本攻防賽）和「資料追蹤挑戰賽」，關注 AI 影像識別領域的安全問題以及把 AI 為工具的比賽專案。這個分享將介紹「黑客眼中的 AI 安全」和 GeekPwn 黑客大賽上對於 AI 領域安全的探索。
GeekPwn（極棒）大賽發起創辦人，第一個獲得世界頂級黑客大賽冠軍的亞洲團隊碁震（KEEN）創始人、碁震公司 CEO 王琦
講者簡介：王琦，江湖人稱「大牛蛙」，GeekPwn（極棒）大賽發起創辦人，第一個獲得世界頂級黑客大賽冠軍的亞洲團隊碁震（KEEN）創始人、碁震公司 CEO。前微軟美國總部以外第一個區域性安全響應中心 China MSRC 創始人之一和技術負責人，微軟亞太區第一個漏洞研究領域專家級研究員。2014 年獲上海 IT 青年十大新銳獎，同年他帶領 KEEN 創辦發起全球首個關注智慧生活、人工智慧安全的黑客賽事平臺 GeekPwn，充當安全新秀的推手，讓更多有技術潛質的人找到屬於自己綻放光彩的舞臺。
演講主題二：深度學習的對抗攻擊與防守
演講摘要：深度學習模型（或一般的機器學習方法）通常容易被對抗噪聲攻擊，這給實際應用帶來了很多風險。如何有效進行攻擊以及如何進行防守受到了學術界和工業界的廣泛關注。谷歌公司在 NIPS 2017 會議上舉辦了一個對抗攻擊與防守的競賽，吸引了百餘支隊伍。在這個報告中，將介紹深度學習對抗攻擊與防守方面的一些最新進展，包括贏得 NIPS 競賽的解決方案以及一些近期的工作。
講者簡介：朱軍，清華大學計算機系長聘副教授、卡內基梅隆大學兼職教授。2001 到 2009 年獲清華大學計算機學士和博士學位，之後在卡內基梅隆大學做博士後，2011 年回清華任教。主要從事人工智慧基礎理論、高效演算法及相關應用研究，在國際重要期刊與會議發表學術論文百餘篇。擔任人工智慧頂級雜誌 IEEE TPAMI 和 AI 的編委、《自動化學報》編委，擔任機器學習國際大會 ICML2014 地區聯合主席, ICML (2014-2018)、NIPS (2013, 2015, 2018)、UAI (2014-2018)、IJCAI（2015,2017）、AAAI（2016-2018）等國際會議的領域主席。獲 CCF 自然科學一等獎、CCF 青年科學家獎、國家優秀青年基金、中創軟體人才獎、北京市優秀青年人才獎等，入選國家「萬人計劃」青年拔尖人才、MIT TR35 中國區先鋒者、IEEE Intelligent Systems 雜誌評選的「AI's 10 to Watch」（人工智慧青年十傑）、及清華大學 221 基礎研究人才計劃。
時間：2018 年 6 月 2 日
14:00-14:30 簽到
14:30-15:00 王琦分享
15:00-15:40 朱軍分享
15:40-16:00 現場提問、交流
地點：北京市海淀區中關村鼎好 a 座三樓太庫科技路演廳
報名連結：http://t.cn/R1zjsHc