9月18日，“2018世界人工智慧大會·人工智慧安全高階對話”在上海國際會議中心召開。作為世界人工智慧大會的分論壇之一，對話由上海賽博網路安全產業創新研究院和中國資訊通訊研究院安全研究所承辦，騰訊公司安全管理部、上海社會科學院網際網路研究中心和《探索與爭鳴》雜誌社共同協辦。
對話匯聚了全球人工智慧安全領域的頂級專家、學者和產業精英，共商人工智慧的安全機遇、挑戰及其應對之道。上海社會科學院副院長王振主持論壇開幕式。中國網際網路發展基金會理事長馬利、上海市經濟和資訊化委員會巡視員陳躍華、中國資訊通訊研究院副院長王志勤以及騰訊資訊保安執行委員會主任、騰訊公司安全管理部副總經理楊鵬出席活動並致辭。
馬利表示人工智慧已經成為了國際競爭的新焦點、經濟發展的新引擎，如何利用好人工智慧的發展機遇，應對新的挑戰，在國際舞臺上發出中國聲音，是當前中國人工智慧發展的重中之重。陳躍華指出上海高度重視人工智慧產業的發展，希望各位專家、學者積極建言獻策，前瞻性地研究和引導人工智慧發展中的安全倫理問題，共同推進人工智慧在健康、可持續的軌道上穩步發展。王志勤認為，人工智慧的發展要趨利避害，中國信通院在積極促進人工智慧技術發展與產業應用的同時，高度重視人工智慧安全的研究工作。楊鵬表示騰訊一直致力於用“網際網路+”連線一切，強調科技應當為我所用，造福於人類，AI+安全的加號代表著一種“賦能”和“助力”的理念，要求其更好地利用人工智慧，保障、維護好人工智慧的安全問題，實現健康有序的發展。
共同發起倡議 凝聚人工智慧安全共識
作為全世界共同面臨的重要議題，高階對話專家組發起了《人工智慧安全發展上海倡議》。上海社會科學院網際網路研究中心執行主任惠志斌介紹了倡議的主要內容：人工智慧安全發展要遵循“面向未來、以人為本、責任明晰、隱私保護、演算法公正、透明監管、和平利用、開放合作”的八大理念。
人工智慧技術和應用飛速發展，推動經濟社會創新發展的同時，也在重塑人類安全的未來。對話圍繞“人工智慧安全倫理規範”、“人工智慧重塑國家安全”和“人工智慧賦能網路安全”三大主題，把脈人工智慧安全發展未來。
安全倫理規範 最大限度消除不利影響
在人工智慧的研發和應用過程中，都需要優先考慮倫理規範的問題。中國資訊通訊研究院安全研究所副所長覃慶玲主持了“人工智慧安全倫理規範”的主題討論。
峰橋集團總裁陳實在發言中提到，未來如果人工智慧擁有和人類相似的感知，是否也應當和人類一樣擁有一定的權利。他認為各國都應重視對人工智慧安全倫理規範的思考，將技術發展與社會倫理置於相同的環境下充分思考，減小人工智慧帶來的倫理衝擊，保證人工智慧在全世界共同的倫理規範內健康發展。
歐亞集團科技戰略主任保羅•特里奧洛提到中國在建立人工智慧倫理規範方面發揮了積極的作用，並重點比較了中國、美國和歐盟在人工智慧監管方面的差異，提出在監管機制層面各國政府可達成共同點的建議。
華東政法大學人工智慧與大資料指數研究院院長高奇琦、UCloud聯合創始人兼CEO季昕華、碁震KEEN公司創始人兼CEO王琦在圓桌環節，就隱私保護、就業替代、機器權力等議題上各抒己見，分別表達了各自在人工智慧領域方面的思考。
風險與治理 人工智慧重塑國家安全
人工智慧越來越多地被應用到戰略決策輔助系統和智慧軍事系統，基於人工智慧的技術代差將對國家安全力量對比產生不可逆的影響，迫切需要審視人工智慧對維護國家安全提出的新要求。在“人工智慧重塑國家安全”會議階段，騰訊研究院副祕書長毛晟斌主持了會議。
中國科學院複雜系統管理與控制國家重點實驗室主任王飛躍指出，網路安全的傳統模式將會向虛實糾纏引導的平行正規化轉化，一個網路安全系統的實力，很大程度上可能並不取決於其物理本身，而是取決於與其伴生的軟體定義的人工系統映像。
聯合國人工智慧和機器人中心主任伊萊克利•貝里斯認為，人工智慧為解決網路安全事件、系統漏洞、資訊保護等提供了更加高效、智慧的解決方案，但同時也容易被非法利用，對社會造成危害。因此，應對現階段人工智慧的發展充分評估，並建立起各方參與的協同合作模式。
國防科技大學前沿交叉學科學院國家安全與軍事戰略研究所所長朱啟超、復旦大學哲學學院教授徐英瑾、鬥象科技創始人袁勁鬆對國防軍事、網路攻防、自動化武器等話題進行了互動交流。
AI+安全 人工智慧賦能網路安全
人工智慧技術正在被用於智慧網路武器威脅網路安全的同時，它也在網路安全漏洞檢測、惡意軟體識別、不良資訊智慧稽核、防範網路犯罪等方面發揮著重要作用。上海社會科學院網際網路研究中心執行主任惠志斌主持了“人工智慧賦能網路安全”的環節。
中國科學院院士何積豐指出，在功能安全方面，軟體測試驗證正變得更加智慧化；在資訊保安方面，主動防禦體系同樣地愈發智慧化。隨著人工智慧的發展，工控功能安全和資訊保安將會更加緊密融合。
中國移動研究院首席科學家馮俊蘭認為，5G網路服務眾多垂直工業，資料探勘技術更易保護使用者隱私資訊，並提出了“通訊改變社會”的願景，強調電信運營商應當加強與垂直行業的互信和協作。
眼神科技CEO周軍、杭州安恆資訊科技股份有限公司首席科學家劉博、騰訊科恩實驗室總監呂一平等與會嘉賓在圓桌討論中為推動人工智慧安全技術發展，防範網路空間安全風險積極建言。
三大重磅報告 描繪解析人工智慧安全
對話重磅推出了三份人工智慧安全專題報告。牛金行研究員代表中國資訊通訊研究院安全研究所釋出了《人工智慧安全白皮書》。白皮書從人工智慧的安全內涵出發，首次歸納了人工智慧安全體系框架，在系統梳理人工智慧安全風險和安全應用情況的基礎上，進一步總結了國內外人工智慧安全的管理現狀，提出了應對人工智慧安全風險應對和未來發展的建議。
上海國際問題研究院全球治理研究所副研究員魯傳穎代表上海賽博網路安全產業創新研究院和上海社科院網際網路研究中心的聯合課題組釋出了《人工智慧時代的國家安全：風險與治理》報告。報告根據人工智慧技術和應用的發展趨勢，分析了各國在不同領域所面對的安全風險，提出應從提升風險意識、完善治理體系、加強監管能力和探求國際合作等來構建風險分析和應對框架，提升國家安全的韌性。
騰訊公司生態安全研究中心高階研究員韓李雲博士代表騰訊公司安全管理部和上海賽博網路安全產業創新研究院釋出了《人工智慧賦能網路空間安全：模式與實踐》報告。該報告聚焦網路安全，分析了網路空間安全的演進和風險趨勢，結合騰訊AI安全應用全佈局和國內外企業的30多個最佳實踐，詳細闡釋人工智慧賦能網路空間安全（AI+安全）的最新進展。最後韓李雲指出，人工智慧安全將成為人工智慧產業發展最大藍海，人工智慧技術路線豐富將改善安全困境，網路空間安全將驅動人工智慧國際合作。
本次高階對話中外大咖雲集，就現階段人工智慧安全領域所取得的成就展開討論，並深入分析了人工智慧安全所面臨的挑戰與機遇。人工智慧對於安全是一把“雙刃劍”，對話探討了安全倫理規範的重要性、如何用AI更好地助力網路空間安全與提升社會風險防控能力等議題。這對保障人工智慧健康發展、造福人類未來有著重要意義。