最近，#AI繪畫有多離譜#的相關話題火上熱搜，比如明明是歡喜的結婚照，被 AI 繪畫軟體加工後，新郎被“掛”在牆上，剩下新娘一人；少女和狗的合影中，作為主角的少女被AI繪畫理解成了“狗”。看上去，AI繪畫軟體的“理解力翻車”是源於高維資料合成任務十分複雜，導致生成結果不可控，出現了各種搞笑的錯誤。但是，在醫療、自動駕駛等多種領域的“AI翻車”會產生嚴重的問題，比如誤診耽誤治療、高速行駛的自動駕駛車輛識別錯誤引發交通事故。
如何從底層構建更穩定的AI，避免AI大翻車？11月30日下午，7位來自阿里巴巴、清華大學、上海交大等公司和高校的90後和00後研究者將分享他們在對抗學習、貝葉斯深度學習、異常檢測、魯棒評估、噪聲學習、魯棒動態圖學習、偏微分方程求解等方向上發表的研究成果，共同探討如何打造更加安全可靠的智慧技術，這些研究成果均被AI頂會NeurIPS收錄。
毛瀟鋒是阿里巴巴人工智慧治理與可持續發展研究中心（AAIG）的一名演算法工程師。進入阿里以來，他最重要的工作就是研究如何透過對抗訓練來增強AI的魯棒性，這些研究能力被應用在非常接地氣的直播和圖片內容稽核中。在實際應用中，直播攝像頭的光線變化、主播對商品的快速晃動等因素都會對抗AI對違規商品的識別，如果AI識別的穩定性難以保障，漏過違規商品，最終受損的還是消費者。
《利用離散對抗訓練增強視覺表徵》是毛瀟鋒的分享議題。“如果把圖片拆成一個個畫素，對某個或者多個畫素點進行修改，往往可能引起AI無法識別，我所做的工作就是對AI進行對抗訓練，讓它不糾結於少量不引起圖片本質內容的畫素級別的改變，AI模型依然認出這張圖片表達的含義。”毛瀟鋒解釋道：“就像我今天戴了眼鏡，但這並不妨礙我還是我。”他認為，將這種能力用於平臺風控後，能更好地守護消費者的安全。
董胤蓬是清華大學計算機系的一名95後博士後研究員，已發表30多篇頂級國際期刊和會議論文，主要專注於深度學習魯棒性的研究。他本次的分享集中在3D世界的視角變化對AI視覺識別產生的影響。董胤蓬舉例：“這項研究與自動駕駛場景密切相關，如果前車車輛發生車禍，自動駕駛車輛可能以非常不正常的視角拍攝了圖片或影片，從而影響識別和判斷，我關心的是，在3D空間裡，如果拍攝視角或者其他視覺條件出現變化，AI是否能正確識別，從而避免車禍發生。”
“希望透過研究分享，讓大家關注真實世界的安全性問題。我想知道，AI 用它的‘眼睛’看世界時，是否處於非常穩定和精準的狀態。” 董胤蓬強調道。
00後的劉松銘是清華大學的在讀本科生。在他的研究中，他試圖利用物理資訊機器學習方法解決結構最佳化等廣義上的“安全”問題。
劉松銘選取了燃料電池組、飛機機翼等場景介紹：“假如我們要建模一個安全穩定可靠的電池，需要模擬電池的動態，比如它的溫度或電流分佈，這是一個物理問題，但我想用數學的辦法探索，然後透過神經網路求解。”他希望用“AI”探索廣義的科學問題，包括解決至關重要的安全問題，讓AI研究者從交叉學科中找尋思路。
在這場AI安全的主題分享中，眾多年輕的AI研究者將從別出心裁的角度探索如何構建更安全可靠的智慧技術，而這場研究分享背後，是主辦方阿里巴巴和清華大學試圖探討如何打造負責任的好科技。
今年阿里巴巴集團科技倫理治理委員會正式成立，提出“以人為本、普惠正直、安全可靠、隱私保護、可信可控、開放共治”六項倫理準則，著手風險能力建設和技術能力建設，重點關注技術的安全性、公平性、可解釋、魯棒性、可干預性。
除了涉及AI魯棒性的研究，阿里還有關於隱私保護的研究被資料庫領域三大頂級會議之一的VLDB 2023收錄，文章提出了更高效的聯邦梯度來提升決策樹訓練，在隱私保護和模型準確性之間取得了更好的平衡。
阿里巴巴集團科技倫理治理委員會執行主席、AAIG主任薛暉表示：“這些研究者的探索最後會反哺於實際應用，幫助集團和社會建設負責任的好科技。對安全可靠的重視和關注是也是企業社會責任感的重要體現。我很高興，越來越多的年輕研究者們不斷投身於此，一起促進人工智慧技術的健康發展。”
圖說：科技倫理治理研究分享會議程