網易易盾升級內容安全體系 釋出智慧稽核管理系統

內容安全已成為全球性網際網路生態治理難題。網際網路平臺多媒體內容爆發帶來海量資訊的同時，也泥沙俱下裹挾有大量不良有害資訊。

當內容平臺發展快速，就會被灰黑產盯上，視作“流量蜜罐”，利用其流量曝光機會，植入涉黃賭毒等不良資訊，以及大量垃圾廣告等。據不完全統計，2019年，有上千款應用和服務因為內容安全問題而遭遇下架關停等整改，業務發展遭受巨大損失。

2019年12月19日，網易易盾在北京成功舉辦2019內容安全智慧體系釋出會，分享易盾對內容安全體系建設的前瞻思考，並正式釋出面向智慧時代的稽核管理系統，有上百位企業內容風控相關人員參加此次活動，共同研討內容安全體系建設和實踐。

據調查，有害垃圾內容佔網際網路UGC內容量的3%左右。其中最多的是各類非法廣告類，其次是涉黃低俗類資訊，以及涉賭涉毒資訊。隨著內容的多媒體融合，5G等資訊基礎設施的發展，網際網路內容也迎來大爆發，內容安全壓力愈加嚴峻。

網易易盾CTO朱浩齊

網易易盾CTO朱浩齊認為，只有行業一起努力，構建出智慧驅動、統一聯動、個性定製、共建眾治的內容體系，才能全面高效地解決內容安全難題。

• 智慧驅動：在新一代內容安全體系中，智慧技術起著驅動引擎的作用。目前90%以上的海量實時多媒體內容都可以被智慧技術精準識別過濾。自然語義、影像識別、聲紋識別等都在內容安全領域有成熟徹底的落地。
• 統一聯動：內容安全需要從源頭徹底解決，就需要聯動賬戶安全，全鏈路聯動識別分析。採用驗證碼、註冊保護、登入保護等反作弊技術、內容安全雲能力和本地稽核管理系統的聯動，可以更有效降低有害內容的產生。
• 個性定製：直播短影片、網路文學、社交傳媒等各領域的內容監管規定不同，需要根據產品形態來靈活定製各自的內容安全策略。
• 共建眾治：有害內容是社會性難題。企業需要有效整合政府法律、技術服務、同行聯盟、使用者等多種力量共同防治，才能有效打擊灰黑產，構建風清氣正的網際網路生態。

此次，網易易盾還發布了面向智慧時代設計的稽核管理系統。

在未來很長時間內，內容安全依然是人機協同模式，各大平臺需要保有一定規模的人工稽核部門。但易盾在調研時，發現由於稽核管理長久一直缺乏相應通用規範，操作後臺長期得不到研發支援，大多數稽核管理系統存在操作繁瑣、設計陳舊、功能落後，甚至有些操作需要在多個後臺跳轉處理的問題。

相比較爆發式的內容增長和日趨嚴格的監管要求，稽核管理系統已成為企業內容安全的最大短板，嚴重影響了稽核效率和安全要求。

網易易盾此次釋出的稽核管理系統是面向智慧時代的稽核機制而設計，具有功能豐富、智慧高效、輕量靈活、互動友好四大優勢。

• 功能豐富：支援面向內容的預處理、多重稽核、質檢溯源全生命週期管理；面向不同業務場景如直播音影片、長文件等垂直場景都有專門的影片模式。
• 智慧高效：基於機器學習的聚類稽核，同類內容及時預警，稽核人員可以快速過濾阻止擴散；高併發支援大規模稽核團隊同時操作，可智慧分組排版。
• 輕量靈活：無技術支援也可以快速接入，支援SaaS和私有化定製，客戶可以靈活自定義內容介面、安全策略、外觀、業務模組等。
• 互動友好：深入稽核團隊研究互動習慣，最佳化介面互動、功能排列、操作流程。建立積分勳章等遊戲化設計，有效降低稽核疲憊。單手操作等無障礙輔助設計，讓殘障人士也可以輕鬆操作。

網易易盾產品總監饒曉豔表示：“稽核人員是企業內容安全的重要保障力量，為公司健康發展付出了很多，非常高興可以為稽核人員設計一套友好有溫度的管理系統，讓他們的工作更加輕鬆快捷。”

網易易盾脫胎於網易安全部，紮根內容安全領域已超過20年，2016年對外商用以來，已服務數千家企業，其中不乏OPPO/VIVO、B站、一直播等知名客戶，每日過濾有害資訊超過十億條，目前已是國內領先的內容安全和業務安全服務商。

歡迎點選免費體驗網易易盾智慧稽核管理系統。