如何做才能讓企業的內容稽核員減少心理傷害？

上週，新浪科技釋出了一篇《FB與內容稽核員和解：後者因心理創傷獲賠5200萬美元》的文章，報導了Facebook同意支付5200萬美元和解與內容稽核員的訴訟，後者聲稱因為反覆檢視兒童性侵和恐怖主義圖片等令人不安的內容，而產生了心理創傷。
據悉，從2016年開始，Facebook透過勞務派遣公司僱傭了大量的內容稽核員，用於對平臺內容進行稽核。而這些內容稽核員每天會接觸大量暴力、恐怖主義和色情等內容，給內容稽核員們造成了不同程度的心理創傷。
除了5200萬美元金錢賠償之外，Facebook也將提供現場指導和工具，幫助內容稽核員更好地控制檢視圖片的方式，以便減少觀看這些內容。原告代理律師史蒂夫·威廉姆斯（Steve Williams）說，“這份工作造成的傷害真實存在，而且非常嚴重。”
的確如此，內容稽核的工作看似要求不高，實則心理要求非常高。每天被迫觀看大量恐怖、色情和兇殺圖片及影片，很多人因此患上了心理後遺症——經常失眠、做惡夢，腦子裡充滿圖片和影片內容。做內容稽核的人，需要特別強大的排解和消化能力，能夠承擔情緒和思想上帶來的負面影響，否則人非常容易被其“反噬”。
國外有一名內容稽核人員描述了瀏覽這些暴力、色情和令人不安的內容給她留下的情緒損傷和心理影響，她說：“當我從MySpace離開的時候，我大概有3年的時間不肯和人握手，因為我覺得人們都很噁心。我無法觸碰別人。”她稱，世界上最普通的人也都是TM的怪胎。“我從那裡出來的時候對人性感到厭惡。我的同僚們，大多數也和我有一樣的感覺，我們都對人性留下了可怕的觀感。”
回到現實，儘管Facebook遇到的訴訟，不一定會發生在國內，但企業還是要防患未然，積極承擔起自己的責任，幫助內容稽核人員減少因有害內容而受到的傷害。
如何做呢？可以從兩方面入手。一個是進一步加大在人工智慧技術上的持續投入，透過強大且可靠的技術手段，把一些特徵明顯的色情、暴力、恐怖內容直接過濾掉，從而減少稽核人員直接接觸特徵明顯的有害內容的頻次。當然，技術手段與此同時還能減少內容稽核人員的工作量，以讓他們有更多的精力去處理富有爭議性的內容，而不是一味地堆砌人力去解決技術就能夠解決的問題。第二個則是改善內容稽核人員的現有的工作平臺，透過聚類稽核、人性化設計等功能，提高內容稽核人員的工作效率和使用體驗。
落地上，對於絕大部分公司，尤其是中小公司，則是建議直接購買成熟的內容安全服務，比如說網易易盾，從而避免投入大（內容安全需要持續投入，包括運營/技術/算力）、體驗差、效果不好的情況出現。
作為國內領先的內容安全服務商，網易易盾當下對外提供的內容安全服務為全新的第三代人工智慧技術，每天檢測資訊十幾億條，提供涉黃、涉政、暴恐、廣告等十幾大類上千小類的有害內容智慧識別過濾服務，智慧識別精準率超過99.8%，能夠大大降低內容稽核人員接觸有視覺衝擊力的有害內容的頻次。

另外，網易易盾還於國內首發了智慧稽核管理系統，該系統能夠解放生產力，提高內容稽核人員的效率。具體體現在五個方面，第一是，機審輔助能提前攔截高達90％的內容，同步監控高危內容；第二是，機審同步到智慧稽核管理系統後，首先會被智慧分組，透過規則策略智慧匹配引擎，做到智慧排班、分組，從而提高稽核效率；其次是，特有的聚類稽核，能夠實時聚類，及時發現、攔截批次相似有害資訊的擴散；第四是，智慧稽核管理系統也能夠自學習，透過人工稽核結果反向促進模型提升；最後則是智慧預警，聚類報警，異常指標報警，出審時長超時預警，保證內容稽核的及時性。
此外，易盾的稽核管理系統設計還很人性化，系統支援單手滑鼠、單/雙手鍵盤快捷鍵稽核操作，有效提升稽核效率。稽核頁面區分標準模式與護眼模式，資料狀態及資料型別區分顏色展示，長時間工作情況下有效緩解眼疲勞，維持工作效率。
網易易盾的內容安全服務值得信賴。在過去的一年裡，易盾先後兩次獲得年度內容安全優秀服務商獎；入圍雷鋒網AI最佳掘金案例榜，獲最佳業務安全守衛獎；也在FBEC2019 金陀螺獎頒獎典禮上，獲得年度優秀遊戲服務商獎（遊戲內容安全）。在權威檢測和賽事上，2019年網易易盾獲資料中心聯盟（DCA）頒發的“網路治理能力評測證書”，並在首個全國範圍大型人工智慧領域競賽上獲得最高階證書（旗幟識別領域A級證書）。
目前，易盾擁有超過30萬的註冊開發者、數千家付費客戶，其中不乏知乎、OPPO、ViVO、小咖秀、挖財、中信證券、觸電新聞、小米等知名企業。