網易伏羲GDC分享：伏魔AI遊戲外掛防控系統在網易遊戲的實踐經驗

在遊戲開發者大會（GDC2021）上，來自網易伏羲的陶建容（花名風天）分享了伏羲伏魔AI遊戲外掛防控系統在網易遊戲的實踐經驗。

網易伏羲實驗室在人工智慧領域積極探索，推出了遊戲行業人工智慧解決方案，橫跨AI反外掛、AI競技機器人、AI 對戰匹配以及 AI 劇情動畫製作四大AI能力，實現了AI 技術在遊戲行業的新突破。本次分享的內容是源於AI反外掛在遊戲中的運用經驗。

伏羲AI反外掛技術和傳統反外掛技術有什麼區別，具體效果如何，來自網易伏羲遊戲AI技術負責人的風天老師，為我們帶來了非常詳細的解讀。


記者：風天老師，您好，今年的全球遊戲開發者大會（GDC），網易伏羲公開了五場遊戲AI技術相關的演講，請您先簡單介紹下您演講的這部分內容？

風天：你好，今年是我第二次在GDC發表遊戲AI技術相關的演講，這一次的主題是“FUMO Engine: Applying AI to Defeat Cheating in NetEase Games”，主要分享伏羲伏魔AI遊戲外掛防控系統在網易遊戲的實踐經驗。


我們從2016年開始研究用人工智慧技術應對遊戲外掛問題，那時的《倩女幽魂》端遊人氣火爆，吸引了不少遊戲指令碼工作室的目光，不少工作室賬號通過指令碼外掛自動刷號、打金、牟利，對遊戲經濟系統產生了一定的危害，伏羲伏魔AI反外掛系統上線後，幫助遊戲運營識別出了大量外掛指令碼賬號，成功打擊了指令碼工作室的氣焰，挽回了遊戲的損失。經過5年的積累，伏羲現在已經形成了8大核心AI反外掛方案，在網易10多款遊戲20多個場景中落地了50多個成功案例，同時也在學術圈和行業內產生了一定的影響力。近期，我們也為全球大熱的武俠吃雞遊戲《永劫無間》提供了AI反外掛技術支援，幫助遊戲應對透視掛、加速掛、瞬移掛、自瞄掛等難題，支撐遊戲運營一起為遊戲的公平性和可玩性保駕護航。

記者：伏羲AI反外掛技術和傳統反外掛技術有什麼區別？您能舉例說明嗎？

風天：我們首創提出了基於玩家遊戲內行為資料的AI反外掛方案，直白的講，就是採集遊戲玩家在遊戲中的行為資料，讓AI去挖掘Bot和Human之間的差別。下面我舉了一個簡單的案例，我們把《天諭》端遊玩家的遊戲行為序列進行了視覺化，圖中不同顏色的色條對應玩家在遊戲中的不同行為，如進出地圖、釋放技能等，從圖中我們可以非常直觀的看到Bot和Human之間的差別，Bot之間有著非常高的行為相似性，而Human除了和Bot有較大差異之外，不同Human之間的行為也表現出了行為的多樣性。


基於這樣的資料觀察，我們採用表徵學習演算法將玩家行為序列表徵成定長向量，再採用基於密度的聚類方法，就可以挖掘出在Human群體周邊一簇一簇的Bot群體，下面是把玩家表徵向量降維到3維空間進行視覺化的結果。


Bot和Human除了遊戲行為序列表現出差異性之外，在移動軌跡、滑鼠軌跡、觸控軌跡、鍵盤序列、關係圖譜、聊天文字、渲染圖片、錄製視訊等資料上都可以基於AI挖掘出顯著的差別，下面展示了《逆水寒》端遊中移動軌跡、《天諭》手遊中觸控軌跡，Bot和Human均表現出了較為明顯的差異。



和傳統反外掛方案相比，AI反外掛具有以下幾項優勢：

1.資料不敏感。一些傳統反外掛方案需要採集玩家硬體裝置資訊、程式資訊甚至侵入遊戲核心程式碼，而AI反外掛利用的資料均為遊戲內行為資料，均為驅動遊戲執行的必要非敏感資料，不會對玩家隱私帶來任何風險。

2.學習能力強。只要有充足的資料和標記，通過監督學習的方法就可以很好的學習出Bot和Human之間的區別，保持較高的準確率和召回率，即使沒有標記資料，也可以通過無監督學習的方法找到群體性的Bot。

3.對抗變異強。外掛可以直接修改硬體裝置資訊，比如IP、序列號等，也可以直接遮蔽程式相關資訊，但是隻要使用了外掛，它在遊戲中的行為表現往往是無法隱藏的，總會表現出一定的行為一致性、重複性和不可達性。

記者：您能簡單介紹下“伏魔AI反外掛系統”背後是如何運轉的嗎？

風天：伏魔AI反外掛系統建構起了多層次、多應用、廣覆蓋的遊戲反外掛產品體系，通過底層伏魔引擎和上層伏魔平臺的支撐，實現了不同遊戲資料來源和AI 能力的全面整合，滿足了不同品類遊戲在不同場景下的外掛對抗需求。


伏魔系統在工程實踐和演算法研究中都始終踐行著網易“創新”的核心價值觀。伏魔引擎設計並實現了BDSDK，全面相容遊戲多終端多型別資料的採集、加密、壓縮、傳輸與儲存，並將核心的反外掛演算法整合到BDLib，涵蓋畫像、序列、影像、圖譜、軌跡、視訊、聊天、語音等多資料型別各類AI演算法，同時推出標準化服務接入框架BDFlow，實現規則、監督、無監督、迭代閉環，助力開發團隊降本增效。伏魔平臺則搭建起了從演算法服務到業務輸出的橋樑，通過整合資料視覺化、分析工具、證據鏈、預警等平臺化功能，使AI反外掛結果能更好地呈現給使用者並滿足多樣化的反外掛業務需求。

記者：AI尤其深度學習基本都是黑盒模型，反外掛又是一個非常注重解釋性和證據性的場景，您是如何應對這個問題的呢？

風天：這是一個非常好的問題。使用者並不只想知道“誰是外掛”，更重要的是“為什麼是”—— 增強處罰信心、“拿出證據”—— 應對玩家投訴。

我們的AI反外掛模型大多數都是基於深度學習演算法開發的，遊戲客戶也會經常詢問“為什麼模型判斷他是外掛？”，為了解決這個問題，我們成功的把可解釋性AI引入到我們的AI反外掛系統中，為每一個AI模型提供直譯器，比如解釋畫像模型每一個維度畫像的重要性、解釋行為模型關鍵的行為片段、解釋影像模型關鍵的畫素區域、解釋圖譜模型核心的網路子結構等。這個工作還發表在了2020年IEEE遊戲大會（CoG）上，並且獲得了大會的最佳論文獎。



2020年起，圍繞“拿出證據”，我們推出了伏魔平臺，整合了AI、大資料的相關技術能力，標準化後對外輸出了一系列反外掛工具元件。通過個體檔案、群體檔案、證據鏈、行為分析工具、軌跡分析工具、影像分析工具、圖譜分析工具等，可以直觀地驗證檢出異常玩家，並得出法理性證據，提高遊戲、運營對檢出結果的信任度，高效應對玩家投訴。





記者：前面介紹了非常多技術乾貨，那麼AI反外掛流程又是怎樣的呢？

風天：我們的AI反外掛流程大致是“接入-預防-檢測-干預-反饋-迭代”。通過反外掛SDK和伏魔引擎，最快三天即可完成反外掛服務接入。接入後，伏魔平臺對遊戲內經濟系統、核心指標以及遊戲外輿情進行異常監控，提前預警，防止外掛大規模爆發。基於8大檢測方案，為遊戲提供強大的AI外掛檢測服務支援。“精細化治理”是我們倡導的外掛治理方式，結合遊戲 DAU、遊戲經濟系統健康度、外掛群體規模、外掛獲利、正常玩家感知度等多角度資訊，對檢出外掛賬號做分級多方案處罰，從而最大程度上保證遊戲的健康運營與營收。伏魔平臺的個體檔案、群體檔案、一鍵處罰、一鍵標記、證據鏈、分析工具等功能也為快速應對舉報、收集客戶反饋提供了基礎。最後是迭代環節，除了例行的模型自動迭代之外，我們還會持續監控線上服務效果、收集使用者效果反饋，定期開展服務效果優化，提升我們反外掛服務的整體質量。


記者：基於AI技術的遊戲反外掛效果又如何呢？

風天：在網易遊戲內部應用上，我們服務了包含《逆水寒》、《新倩女幽 魂》、《倩女幽魂手遊》、《天諭》、《天諭手遊》、《永劫無間》、《戰意》、《超激鬥夢境》等在內的近20款遊戲，累計檢測呼叫量達23億次，檢出外掛4億次，平均精度超過90%，大大提升了運營方案外掛召回量級，併成功消滅多款遊戲外掛，搗毀多家打金工作室，為遊戲挽回千萬級別損失。併成功面向遊戲市場實現商業化，首年便與國內外知名MMORPG、FPS、SLG等達成反外掛商業合作，吸引了來自眾多合作廠商（華為雲、阿里雲、AWS、Unity等）的目光，並建立起合作伙伴關係，共同面向市場樹立AI防治外掛的服務標杆，輸出網易特色的創新價值，賦能遊戲安全領域的變革與發展。




記者：網易易盾同樣作為國內知名的遊戲反外掛服務提供商，和網易伏羲有著哪些相同點和不同點？

風天：網易伏羲和網易易盾一直保持著非常緊密的合作，都致力於與遊戲外掛開展技術對抗，雙方在技術維度上相輔相成，先後聯合推出了“手遊模擬點選檢測聯合解決方案”以及“FPS遊戲外掛對抗聯合解決方案”。近期伏羲和易盾還將聯合制定併發布“2021網易反外掛白皮書”，敬請期待。


記者：您能透露一些伏羲AI反外掛產品的後續規劃嗎？

風天：我們將持續打磨我們的AI反外掛技術和產品，為更多國內遊戲客戶提供反外掛服務，並進一步開拓海外遊戲市場，拓寬產品的覆蓋面，致力於成為遊戲反外掛領域的標杆品牌。同時，我們也會不斷擴充技術外沿，將異常檢測的核心技術，從遊戲反外掛推向電商反作弊、金融反欺詐、工業反瑕疵等領域，推動技術創新為更多領域賦能。


記者：面向遊戲行業，除了前面介紹的AI外掛防控系統，伏羲還對外開放了哪些AI能力呢？

風天：伏羲正在開展遊戲AI和虛擬人的商業化工作，不久前在上海舉行的世界人工智慧大會，伏羲攜AI競技機器人、AI劇情動畫製作以及AI對戰匹配系統參會，與AI外掛防控系統共同組成了網易伏羲遊戲AI解決方案，這幾項AI技術都將在今年的全球遊戲開發者大會上公開亮相。我們致力於解決遊戲行業的痛點問題，遏制外掛作弊、打金工作室等現象的不斷蔓延，同時從“幫助遊戲降本增效、豐富遊戲玩家體驗、完善遊戲匹配機制、營造精彩對戰”入手，藉助AI技術的優勢來驅動遊戲行業實現變革。


記者：謝謝風天老師，您還有其它什麼內容想和大家分享的嗎？

風天：歡迎大家加入網易伏羲，一起用人工智慧點亮遊戲未來！

網易伏羲官網 http://fuxi.163.com


主講人介紹：

陶建容（花名風天，網易伏羲遊戲AI技術負責人），浙江大學計算機博士，畢業後加入網易並參與組建伏羲遊戲人工智慧實驗室，負責遊戲使用者畫像方向前沿研究與技術轉化工作，主要研究“面向遊戲使用者的智慧畫像服務系統與平臺”，致力於解決遊戲中外掛檢測、戰場匹配、智慧推薦、預測歸因等重點難題，在資料探勘、人工智慧、遊戲等領域發表近40篇論文（KDD、AAAI、IJCAI、ACM MM、TKDE、TOIS、ToG等），獲得Ubicomp2016、CoG2020、SMDS2020最佳論文獎，擔任ACM資訊與知識管理會議（2019）、ACM資料探勘與知識發現會議（2019）、IEEE資料探勘會議（2020-2021）程式委員會委員，擔任ACM杭州分會執行委員會委員。申請30多項發明專利和10多項軟體著作，相關研究成果在網易多款遊戲中投入應用（《逆水寒》、《倩女幽魂》、《天諭》、《永劫無間》等）。目前負責網易伏羲遊戲AI商業化工作，面向遊戲行業推出涵蓋研發、運營、營銷全鏈路的人工智慧解決方案（遊戲競技機器人、遊戲外掛防控、遊戲智慧匹配推薦、遊戲虛擬形象等），致力於用伏羲AI賦能遊戲行業降本增效，全面釋放創作者的生產力，革新玩家遊戲體驗。