進入2018年，內容監管持續升級，很多網際網路企業因為內容安全問題受到不同程度的處罰，有的產品甚至被監管部門直接叫停。
而在另一面，這些遭遇監管的企業其實他們也很“努力”，比如說A企業，在叫停某產品前，其稽核團隊人數就達到了6000人；而B企業規模並不是很大，但它的稽核人數也有兩千人。
與此同時，以演算法知名和取勝的A企業，也走上了人工+技術（人工智慧）的道路，然而在監管面前，它還是遭遇了各種“滑鐵盧”。
這是為什麼？難道真的僅僅是價值觀問題，還是另有一些原因？在一次閉門沙龍中，網易雲易盾高階產品運營魏曉惠分享的《如何成為一名優秀的內容安全（反垃圾）產品經理》議題，給我們提供了另外一個視角。
認識內容安全（反垃圾）
作為內容平臺一定要有一個認識——內容安全（反垃圾）是公司的命門，因此，必須把內容安全的認識提高到非常高的高度。
現實中，無論是從國家政策還是從產品發展、社群氛圍的維度，過濾垃圾資訊能力都是決定產品和公司能否健康發展的重要指標。
那反垃圾，到底反的是什麼垃圾？顧名思義，就是不符合產品定位的內容，可以籠統分為違法資訊和有害資訊，違法資訊即國家法律明確指出的內容，如涉黃、涉賭、涉毒、涉暴等；有害資訊可理解為與產品定位、發展相左的內容，如貼片廣告、無意義刷屏等等。
垃圾內容有形式多樣、內容多變的特徵，決定了企業自建團隊做反垃圾業務都是具有巨大挑戰的工作。
而且，技術的不斷更新，對於企業級反垃圾產品團隊來說也是巨大的挑戰。也正因為如此，企業違規事件頻出，而內容安全（反垃圾）相關產品也在市面上陸續出現。
難在哪裡？內容安全（反垃圾）產品經理與其他產品經理的區別
與普通產品相比，反垃圾產品的服務性更強。反垃圾產品的目的，就是提供一系列完整、高效的服務，為客戶的產品內容健康打好基礎。
同時，反垃圾系統涉及稽核、管理、演算法、運營、資料統計展示等眾多體系，這決定不同方向的產品經理的工作職責也有很大不同。
最後，反垃圾產品經理必須要時刻關注監管部門的相關要求，及時更新自己的產品，積極配合相關部門做好維護網路環境的工作。
必須達到什麼程度？內容安全產品經理應具備的素質
從兩個方面來看：
1.業務架構方向
由於反垃圾業務的特殊性，產品經理需要了解市場，瞭解客戶群體潛在的風險危機，瞭解不同行業甚至不同場景下的風險差異，從而在業務架構時，能多方位考慮。在把控大局的同時，又能精細化處理細節問題，從而提出“接地氣”的解決方案。
以文字為例，策略產品經理應必備的素質有：
a. 行業分析能力及個性化策略能力：網際網路的行業的多樣性決定了每個行業遇到的問題都有獨特的行業特徵，產品經理需要了解各個行業樣本可能出現的垃圾特徵，深入分析研究客戶的產品所在的點線面體，從而為多樣化的需求提供適合的應對方案，真正做到深入行業，洞察未來，與客戶一起成長，與時俱進；
b. 過硬的語言功底：策略的流程可理解為垃圾樣本分析——垃圾特徵提煉——策略輸出三部分。目前過濾內容仍以漢語為主，而漢語語法深奧，詞句的構成複雜，漢語語法基礎的缺失不可避免會導致策略偏差，具備良好的漢語功底是有效提煉樣本特徵、提高過濾準確性的基本條件；
c. 政治素質、法律意識、計算機知識：要保證效果，龐大的垃圾樣本庫必不可少，具備良好的政治素質、法律意識，準確識別及預測新型垃圾樣本，進行風險尺度的把控，是策略向產品經理必備的素質；其次，整理後、特徵素材需要轉換成計算機語言新增流入策略庫，最終生成演算法模型，自動化處理，這要求產品經理具備一定的計算機知識；最後，新垃圾層出不窮，原先的策略可能隨時被推翻被否定，這也要求心理素質必須過硬。
2.系統架構方向
架構功能完備、準確率高的反垃圾產品，需要產品經理做好各類前期規劃與協調工作。
a. 功能完備的系統：包括易於操作的稽核系統、功能齊全的管理系統、便於管理的策略系統等，這些系統缺一不可；
b. 要保證準確率高：首先機器識別準確率要高，文字、圖片等的識別模型的管理、版本迭代最佳化情況都要做到實時跟蹤；機器演算法之外，如果要用到人工稽核，則稽核系統的操作便捷，系統收集稽核人員的需求，頁面展示易用性，功能完整性等都是產品經理需要重視的問題；
要實現以上的內容，產品經理至少需要具備以下素質：
a. 系統開發基礎：要做好完善的系統，具備一定的程式碼知識和開發基礎，瞭解模型如何實現、最佳化空間、實現最優結果；
b. 考慮周全：功能的前期策劃、如何展示提高效率，減少重複、無效勞動等，都是產品經理需要考慮的點；
c. 協調各個部門能力：功能實現、演算法最佳化需要產品經理與各個部門協調資源，推進落地實現。
綜上來看，內容安全實際是一項門檻高、專業要求高的事情。
結束語
隨著國家管控力度不斷加強，要想保證產品和公司持續、穩定的發展，公司除了加強價值觀建設和人工稽核之外，也要求產品經理和技術能力雙重的提升，才能應對內容的各種不確定性。
對於一般企業而言，持續、高成本的技術投入，勢必會增加企業運營的成本，因此將內容安全（反垃圾）交付專業的第三方機構來做，或許是他們當下做為穩妥的做法。
而對於有實力、有資本的大企業，不論是戰略上還是戰術上都得重視，因為這不僅僅是價值觀和技術的問題，也需要人員的長期培養、垃圾特徵庫的長期積累等。