內容稽核向左，還是向右？

最近，各家新聞資訊App和直播平臺都開始對內容稽核人員的招聘情有獨鍾。

早在今年年初，今日頭條就啟動高達2000人的內容稽核編輯招聘，並點出黨員優先。而在4月10日，今日頭條CEO張一鳴又在一份公開信中表示，會將現有6000人的運營稽核隊伍再度擴大——總人數達到10000人。 

與今日頭條“步調”一致的還有快手，快手CEO宿華在4月初發表反思言論之後，立馬宣佈急招3000人稽核團隊，將目前的稽核團隊從2000人擴大至5000人。 

瘋狂招人的背後，是相關部門的嚴監管。就拿今日頭條而言，2018年以來，受到央視、工商行政管理局等有關部門的點名、批評或處罰就高達8次。

嚴監管只是影響結果的其中一個因素，但要把人工稽核的“復興”歸結於它，就有點敷衍塞責了。那客觀來說，內容稽核復興的根本原因是什麼？

嚴監管是“果”，而不是“因”

首先得澄清下，嚴監管並不是今日頭條、快手們瘋狂招人的根本原因。

如果把目光從國內轉向國外，你會發現，人工稽核早就復興了。

Facebook在2017年就宣佈，將會新增3000名內容稽核崗位。而到該年年中，Facebook審查員數目對比過去八個月幾乎增加了一倍，其人員數量相當於當時的Twitter或Snapchat的員工總數。

除了Facebook之外，谷歌也在重新擁抱人工稽核。谷歌旗下的YouTube在今年4月份對外表示，計劃釋出新版YouTube Kids App，該應用將取消演算法推薦影片，轉而全由YouTube員工純手工推薦。

這樣的轉變為何？這得提下發生在去年的幾件事。

2017年，美國一名男子在Facebook上直播槍殺一名無辜老人。隔了一段時間後，泰國一名男子又在Facebook直播殺死女兒，其殘忍過程不僅讓很多目睹，在影片釋出後的24小時內，人們還可以在Facebook上看到影片。有點諷刺的是，而在稍早些時候，Facebook表示將用人工智慧監測直播，防止使用者自殺。然而，隨後的幾起事件顯示，人工智慧並沒有起到相應的作用。

另一面，Youtube有一段時間充斥了以艾莎公主、米奇老鼠、蜘蛛俠、小豬佩奇等卡通形象為包裝，故意充斥大量含有血腥暴力、恐怖、虐待、色情等內容，而演算法卻起到一個助紂為虐的角色。當點完一個之後，又會推薦更多相關的影片。甚至有人利用演算法，去發展亞文化，並從中獲利。

至此，我們明白：各大平臺重新大量招募內容稽核人員、相關部門執行嚴監管的背後，是大家發現被崇尚數年的AI演算法有很多弊端，無法單獨依靠演算法來解決內容上的問題。

人工智慧跌下內容神壇

如果說去年Facebook開始大規模招募內容審查，預示著今年人工稽核的復興，那麼我們是不是可以把YouTube Kids App純手工推薦也視為一個苗頭，比如說——在內容領域，人工智慧的應用不再風光，或者準確地說，其應用不再占主導地位。

人的認知是非常容易受影響的，“曾參殺人”、“三人成虎”的歷史典故充分證明了這一點。對於一個謠言，一個說可能沒有人相信，兩個人說也許有一部分人會去相信，但是三個人或者更多人也這樣說，那麼人們大機率會認為這件事可能是真的了。

內容的推薦工作全部由機器完成，給我們的不是我們自己想要的東西，也不是對我們有好處的東西，而是我們實際關注的東西。也就是說，我們看某樣東西越多，這方面的東西就會更集中的推向我們。而別有用心的人，就會利用演算法這個特點，針對影響我們。

“我相信我們面臨的最大風險是我們自己正在失去辨別現實的能力。”Reddit CEO Steve Huffman在其撰寫的一篇文章中無不擔憂地說。而這，也是Facebook資料洩露一事鬧得沸沸揚揚的根本原因，如果再不對資料進行嚴格監管，我們就不是我們了。

張一鳴說，後續今日頭條首先改變的是：將正確的價值觀融入技術和產品。這也預示著今日頭條撥亂反正，全面糾正演算法和機器稽核的缺陷。

技術不是萬能的，很多事情並不是透過投入大量的工程師就可以解決。

朋友圈裡某位老師說，產品需要價值觀，消費至死和娛樂至死的確會有很大問題。從這來看，人工稽核的“迴歸”就成了必然。

但人工稽核，又是“一本萬利”的生意嗎？

今天的內容是海量的，依靠人工，成本會變得很高。就比如擴招2000人，一個人工資給4000元，一年光明面上的工資成本就近億，企業的競爭力從何而來？並不是所有的公司都能像今日頭條、Facebook那樣，為了實現7X24小時全覆蓋的稽核，動輒就招聘數千名人員，規模維持上萬，這是第一。

第二，內容稽核的工作看似要求不高，實則要求非常高。每天被迫觀看大量恐怖、色情和兇殺圖片及影片，很多人因此患上了心理後遺症——經常失眠、做惡夢，腦子裡充滿圖片和影片內容。做內容稽核的人，需要特別強大的排解和消化能力，能夠承擔情緒和思想上帶來的負面影響，否則人非常容易被其“反噬”。

國外有一名內容稽核人員描述了瀏覽這些暴力、色情和令人不安的內容給她留下的情緒損傷和心理影響，她說：“當我從MySpace離開的時候，我大概有3年的時間不肯和人握手，因為我覺得人們都很噁心。我無法觸碰別人。”她稱，世界上最普通的人也都是他媽的怪胎。“我從那裡出來的時候對人性感到厭惡。我的同僚們，大多數也和我有一樣的感覺，我們都對人性留下了可怕的觀感。”

給員工帶來傷害的同時，僱主有時也會牽連。外媒報導，去年年初，兩位微軟網路安全部門的員工將僱主告上了法庭，並尋求損害賠償。他們因工作中需要觀看可怕的影片，包括兒童色情和謀殺等圖片和影片，而患上了PTSD（創傷後精神緊張性障礙）。

從這來看，人工稽核又不見得是一個好的方案。

向左，還是向右？

筆者非常喜歡一個人取的花名——“行中”，名取自於易經，意為中間態、調和態做事。回到內容稽核上，要想解決這個問題，也要行中。

拋除人的優勢不說，當初之所以用演算法取代人工稽核和推薦，是因為人工有很多弊端，比如說效率、成本以及對人的影響。演算法固然有缺陷，但其高效、低成本的優勢也令人神往。人工+演算法，實際上是天生的一對，沒必要因為一時的“摩擦”，就拆散它們倆。

那我們不得不面對一個問題：有的公司其實也在“行中”，利用人工和演算法結合去解決內容的問題，為什麼不OK？

一位網易雲易盾內容安全的專家就該問題剖析時指出，演算法+人工是現在、也是未來一段時間最為合適的形態。當下並不是演算法+人工不行，而是國內有些公司積累和沉澱太少，以為拿機器學習的框架再加一些資料喂一下就好。“網易之所以在內容安全上做的效果很不錯，就是得益於其擁有的20年內容稽核和技術經驗。”這位從事多年安全業務的專家接著說，不積跬步，無以致千里，內容稽核重中之重是要有足夠的積累，得“經驗”加持。

“這個積累有兩方面，一個是有效性資料的持續積累，其次是內容運營和稽核人員的經驗和思考力的積累，二者結合，不斷訓練機器、不斷抽象和校正方向，才能夠得到一個合理的‘人工+智慧’的結合邊界，才能更加接近人的判斷。”他強調，這不是一朝一夕的事情，也無法僅僅用工程師的堆砌來替代。

聊完後，筆者陷入進一步的思考中：人是有思想、有情感的，一些海量、重複性、低價值的工作肯定會被技術取代，而人則會做更高階、更有創造性的事情。

如果能跳到未來，是不是可以發現內容稽核不會向左，也不會向右，而會朝著一個必然的方向發展——人與人工智慧的默契配合。

結束語

文章的最後，想談談監管和商業利益。

從當下頻頻發力的監管政策來看，內容類產品要想獲得快速發展，首先要邁過監管的門檻。在有些人眼中，則認為被唸了緊箍咒，但筆者不這麼認為。

大量的不良內容看似帶來很多流量和商業利益，但劣幣驅逐良幣，註定著會失去高質量的使用者，不利於平臺的長期發展，甚至在激烈的競爭中逐漸被邊緣化；其次，沒有束縛的發展也意味著“斷頭”路，真到了那個時候，想改正問題會發現再也沒機會了。

4月11日，今日頭條CEO張一鳴的宣告，如果用幾句話來解讀的話，大致意思是：

我是工程師出身，創業的初心是希望做一款產品，方便全世界使用者互動和交流。過去幾年間，我們把更多的精力和資源，放在了企業的增長上，卻沒有采取足夠措施，來補上我們在平臺監管、企業社會責任上欠下的功課，比如對低俗、暴力、有害內容、虛假廣告的有效治理。

PS：以上為解讀，張一鳴宣告原文見：http://tech.163.com/18/0411/07/DF3IT0P300097U7R.html

網上有一張圖盤點了今日頭條被點名批評的歷程。細數了下，一年四個月的時間被點名批評16次，平均一月一次。直到最近的一次，內涵段子被下令關停，再也回不來。

最後筆者想說兩點：技術的確是中立的，但如何利用技術、傳播何種內容卻是有偏倚的，這需要人來糾正；第二，長期的商業利益和監管並無衝突，內容平臺重視監管、做好內容安全是發展中非常重要的組成部分，希望內容創業者謹記。