網易易盾資深產品經理王博：內容安全已成網際網路企業標配風控項

2019年視訊文娛大會於5月16日在上海舉行，包括視訊綜合平臺、視訊聚合平臺、內容製作提供方、大資料機構、雲端儲存機構、社交網路和初創教育專案等250+企業和機構參加了本次大會，網易易盾也受邀參加本次會議。

網易易盾資深產品經理王博在會上分享了《視訊內容安全誰來守護——AI賦能的易盾內容安全實踐》的議題，講述了易盾的成立歷史、反垃圾背後的故事以及易盾從0-1搭建內容安全系統的過程。

一、易盾成立

王博表示，網易是國內第一個為反垃圾設立專業團隊的公司。之所以設立專業的團隊，一方面是網易郵箱、部落格天然的反垃圾的需求。另一方面是丁老闆的產品潔癖。

如今網上還能搜到丁老闆對於網易新聞和網易社交產品的段子——丁老闆對產品體驗和使用者很關注，對產品有超乎平常的潔癖，對產品中存在不良資訊的意見非常大，經常因為不良資訊直接懟產品經理或相關責任人。“ 丁磊曾憤怒地把一張暴露的美女照片列印出來，貼在門戶頻道一位主編的牆上：‘如果誰再上這種圖片，我就把照片列印出來寄給他父母。’”

王博說，因此網易的反垃圾（現在稱為內容安全）團隊早在1998年就成立了，這是國內最早以技術驅動的內容安全團隊，隸屬於網易安全部。早期內容安全團隊在內部比較邊緣化，再加上還管著稽核員，因此團隊自稱“鑑黃部門”和“下水道清理部門”。

隨著內容安全越來越重要，再加上網易的內容安全技術非常成熟，後來網易安全部決定把其自身的技術沉澱和實踐雲化並對外提供服務，從而推出——“網易易盾”這個品牌，並在業界率先發布第三代智慧稽核技術，其智慧識別精準率超過99.8%，每天檢測資訊達十億條。

目前易盾已成為國內首屈一指的內容安全服務商，服務數千家企業，其中不乏一直播、OPPO、攜程、中信證券、知乎等大公司。

二、與不良內容產業攻防，推動內容安全技術升級

對於垃圾資訊產業而言，2008年或許是一個重要的節點。

這一年，人工開始逐漸被機器和軟體取代，廣告、色情、賭博等垃圾資訊規模化出現，這條零碎的產業鏈，開始集結成河。文字垃圾開始變成“圖片垃圾”，也更具隱蔽性，而隨著移動網際網路、4G時代的到來，垃圾資訊又變成更加難以處理的視訊形式。好在相關的內容安全技術也在不斷提升，尤其是後來人工智慧技術在內容安全中的不斷應用。

用人工智慧技術解決內容安全問題是攻防不斷拉鋸的過程，“這是一場無盡之戰，從不修戰也永不言和。”王博指出。

網易易盾人工智慧技術

網易易盾的內容安全技術更新升級一共分為三代：第一代內容安全技術是建立在關鍵詞、黑白名單、過濾器和分類器上；第二代內容安全技術基於內容特徵識別（膚色、紋理）、貝葉斯過濾、相似度匹配和規則系統；而第三代則升級為大資料分析（使用者行為、使用者分類）、人機識別、人工智慧和機器學習（語義識別、影像識別）。過程中，易盾也自研了很多技術，包括語義池挖掘演算法、線上學習演算法等。

“除了運用人工智慧技術之外，我們也融入了反作弊的技術。假如說一個客戶或者使用者頻繁傳送不良資訊，我們有理由認為賬號是有問題的，不單單是發出不良內容再進行處理，而是從源頭上就把賬號進行相應的跟進和處理。”

目前，網易易盾內容安全服務已覆蓋了文字、圖片、音訊和視訊（直播）等領域，其有害資訊處理效果超出很多客戶預期。

三、內容安全已成網際網路企業標配風控項

王博認為，在當下內容安全已經成為企業標配的風控了。她給出了三個理由：第一個是法律法規的完善和營造風清氣正的網際網路環境的共同需求，使得企業的業務需要合規；第二個是網際網路企業自身社群調性的建設，使得他們為了產品更好的氛圍，開始主動清除不良內容；第三個則是未成年保護，使得網際網路企業在當下履行起社會責任。

內容安全成為網際網路企業TOP風控項的趨勢也在國外出現。紐西蘭總理Jacinda Ardern今年曾表示，科技公司應被視為“出版商，而非只是郵遞員”，而澳大利亞總理Scott Morrison也表示：“把網際網路當作一個無人管理的空間是不可接受的。”

在法律層面，國外也開始立法，澳大利亞今年通過一項新法律，嚴控在社交媒體上傳播暴力內容，如果社交媒體平臺沒有快速刪除平臺上暴力恐怖內容，公司高管可能被判入獄3年，而社交媒體平臺也將面臨高達其年營業額10%的罰款。而在同一個時間段，歐盟也通過草案：如果無法在一小時內刪除恐怖主義內容，企業將面臨最高達全球營業額4%的罰款。

國外的網際網路巨頭也在內容全上格外投入。Facebook CEO Mark Elliot Zuckerberg說，除了在技術上大力投入外，從事內容稽核工作的人數也已增加到3萬多人，每年在安全方面投入達數十億美元。YouTube在人力和技術投入之外，還成立了“緊急事件負責人”一起協調合作。YouTube CEO Susan Wojcicki表示，這個崗位由多人輪流擔任，旨在確保每次出現“事件升級”都有專人應對。

四、當下的易盾朝著精細化、場景化、智慧化方向不斷進化

依託網易21年內容安全經驗，網易易盾提供文字、圖片、音訊和視訊四大類的基礎服務，文件、音視訊、線上檢測、網站、廣告合規等解決方案，以及人工稽核、輿情管家、智慧稽核系統等增益服務。易盾能夠過濾包括鑑黃、涉政、暴恐、廣告等數十大類近千小類的不良內容，使用場景包括新聞內容、聊天室、直播、視訊、彈幕、評論、部落格、簡訊/IM、暱稱/頭像、簽名等。