當科技博主畢導看到數字人“畢導”大言不慚地搶自己的飯碗時，再一次直呼Amazing。
9月6日下午，外灘大會AI創新賽·全球Deepfake攻防挑戰賽的表演賽拉開帷幕，用AI技術對抗Deepfake的TOP選手代表，在全網期待中亮相。室外40度的天氣，室內400度的熱情。來自上海的觀眾朱先生表示，第一次肉眼看到生成式AI與deepfake檢測技術的正面交鋒，比賽太有意思了。
人工PK人工智慧，哪家強？
在簡短的Top選手頒獎之後，選手之間的比拼再次打響。中國科學技術大學網路空間安全學院和螞蟻數科天璣實驗室聯合出題，對選手模型進行終極考察。和線上賽一樣，表演賽現場分為影像賽道和音影片賽道，各賽道TOP3選手兩兩PK。
清華大學研究員興軍亮、螞蟻數科CEO趙聞飆為全球Deepfake攻防挑戰賽選手頒獎
影像賽道一開始，臺下立即躁動起來。主持人畢導喚出了9張瑪麗蓮夢露的照片，其中2張是AIGC偽造的。肉眼真假難辨的9張圖，選手卻需要用自己的參賽模型給出每張圖片的偽造機率值，並對機率值最高的2張照片與正確答案進行比對。“本來以為只需要隔岸觀火，不曾想到，自己也被捲進了戰鬥狀態，試圖用肉眼與AI一較高下”，來自一家科技公司的觀眾小張說。觀眾互動環節，臺下不服氣的視覺設計師甚至請戰AI，希望展示自己的專業敏感度。
偽造機率值的問題，引發了畢導的追問，到底AI能否100%識別偽造。賽事出題人之一、ZOLOZ技術總監姚偉斌介紹道，讓AI百分百識別偽造影像是否偽造，是十分困難的。偽造技術也在不斷迭代更新，對抗需要不斷地提升。這也是我們今天做比賽的一大意義。在實際應用中，通常是將識別演算法與其他檢測手段結合使用，綜合判斷風險。
影片賽道環節，畢導數字分身出演了多部經典電影名場面，選手同樣要透過AI模型來辨別真偽。現場選手比分上，在一些難度一般的賽題上，表演賽的結果比分接近，偽造識別率幾乎都在80%以上，但是在一些高難度賽題上，模型結果差異懸殊。
畢導向新加坡科技研究局天異教授發出靈魂拷問，為什麼肉眼覺得一眼假的畫面，AI卻不能完全答對？而肉眼難以辨別的畫面，AI反而1秒識別？對此，周天異認為人類在判斷影像是否偽造會依賴直覺和邏輯，比如畢導的人臉換到了哈利波特身上，人類一眼便知，AI卻不瞭解背後的故事。而人類會下意識地偷懶，AI是最稱職的工具人，AI不受情緒干擾，他會一絲不苟、勤勤懇懇地完成人類的指令。所以，AI在工作效率和穩定性上，都是大大高於人類的。
近百名選手參與開源模型程式碼接力
近日，Deepfake惡性事件牽動人心。8月30日，賽事組委會發起開源倡議：“支援並鼓勵優秀參與者開源比賽模型，降低技術門檻、加強技術交流，進而幫助更多人檢測偽造內容，助力AI向善。參賽者自主開源後，大賽組委會將在官方Github主頁上彙總所有開源儲存庫。”倡議一經發出，就得到中國科學院自動化研究所VisionRush隊伍和澳門大學JT Group的積極相應。開源不僅僅是免費分享，還意味著在技術社群開展程式碼接力，任何人都可以參與完善開源模型。姚偉斌表示，截至目前，已有近百名選手及所在隊伍表示願意參與程式碼接力，希望透過技術手段，為每一個可能受到傷害的人提供保護。參與選手還在不斷增加。
圖說：全球Deepfake攻防挑戰賽 “DeepFakeDefenders”程式碼接力行動
研發檢測演算法，只是遏制Deepfake技術濫用的方式之一。姚偉斌坦言，這種方式是相對滯後的。如果要從根源上防範欺詐行為，姚偉斌認為應在標準和立法角度，要求給AIGC內容建立通用標識，比如每一張AIGC生成的影片/圖片都在檔案資訊裡帶一個簽名或水印，這樣平臺管理更有依據，也能讓AIGC可以更可信。
會上，十餘家機構聯合釋出國內首個面向金融場景的“AI 換臉”檢測標準。該標準的釋出為金融場景下的虛假數字人臉安全檢測和評估提供了依據，也填補了這一領域的空白。這場Deepfake 攻防挑戰賽，正是應用了此標準的框架和指標，進行賽題的制定和答案的評價。
圖說：國內首個金融領域“AI 換臉”檢測標準正式釋出
全球Deepfake攻防挑戰賽針對“AI換臉”的欺詐風險進行攻防實戰演練，並設立100萬元人民幣的獎金池，鼓勵推動AI向善的技術人才。大賽吸引了全球2200多名選手，1500多支隊伍報名，覆蓋中國、美國、印度、澳大利亞、日本、印尼、馬來、新加坡、香港、越南等26個國家和地區。
據瞭解，外灘大會AI創新賽包括 “AFAC2024 金融智慧創新大賽”和“全球 Deepfake攻防挑戰賽”兩大子賽事。全面展示了人工智慧在多個領域的最新應用與前沿探索，也彰顯出了科技創新的無限活力。同時，Inclusion外灘大會第二屆AI創新賽· "全球AI攻防挑戰賽”也正式啟動。賽事聚焦AI大模型產業實踐，設有攻防雙向賽道。
