2019年，不良違規內容氾濫已成為全球網際網路生態治理難題，社會聚焦、監管行動使得內容安全也成為網際網路企業發展生命線，受到管理層的重點關注。
這一年，內容安全事件頻繁爆雷，據不完全統計，就有超過一千家網際網路產品服務因此受到各種監管處罰，嚴重者下架時間一個月，對業務造成極大影響。事件爆發的網際網路產品不限於社群電商、圖片版權、企業服務、網路文學、直播音影片、影視、出海、教育、網路文學等類別。
網易易盾一直關注和記錄內容安全領域，每週一次對事件和相關大事進行整理（風控週報可在網易易盾公眾號選單欄點選“幫助中心-2019風控週報”檢視2019全年的業務風控週報，也可百度搜尋“持續更新ing！記錄2019年那些內容安全事件”，即可檢視），在2019年遠去，迎來2020年之際，對全年大事記進行盤點，希望獲得行業的共同關注，更好地打造生態環境。
以下為盤點：
1.小紅書被下架整改兩個多月
事件：2019年7月30日前後，有網友反映，被譽為“種草神器”的小紅書被在安卓應用商店下架。幾天後，小紅書也從App Store中消失。後來，小紅書發表一份宣告稱：“已對站內內容啟動全面排查、整改，深入自查自糾，並積極配合有關部門。”
在外人看來，小紅書由於快速增長，平臺中出現了各種亂象。有人爆出，小紅書上的種草內容，並非來自真實使用者的親身體驗，而是根據商家需求“定製”的，包括9萬的菸草筆記、保健品、黑醫美推廣等。
經過整改後，10月14日前後，小紅書上架各大安卓應用市場，開始恢復下載。
補充說明：一款App/社群不是隻做好涉黃涉爆等方面就萬事無憂了，野蠻成長的時代已經徹底畫上句號。社群風氣和氛圍也要兼顧，是否有軟色情、虛假廣告、大量的營銷內容等現象都要進行維護，承擔好企業的主體責任。
2.視覺中國先後被要求整改兩次
事件：2019年4月，視覺中國網站被天津市網信辦以涉嫌傳播違法有害資訊為由，責令立即關停，全面徹底整改，這是第一次整改。
第二次整改，是在2019年12月。視覺中國發布公告稱，公司負責人被網信辦指導有關地方網信辦約談。“監管部門指出，視覺中國網站違反國家網際網路有關法律法規和管理要求，應立即停止違法違規行為，全面徹底整改。”公司網站自即日起開展自查整改，整改期間網站暫停服務，網站恢復的具體時間公司將另行公告。
補充說明：第一次整改，視覺中國股價從28元跌至16.56元，市值蒸發近80億元。第二次整改，截止到2020年1月3日當天，視覺中國的官網仍無法開啟，空白頁面只剩一句提示：“落實有關管理要求，視覺中國網站自即時起全面開展自查整改，整改期間網站暫停服務。”從這點來看，企業規範好自己業務和服務十分重要，否則代價不會小。
3.釘釘社群因違規內容 社群暫停更新一個月
事件：釘釘社群發宣告稱，由於出現違規內容，根據有關管理部門整改要求，將於2019年5月11日00:00起暫停更新一個月，期間對違規資訊進行清理，同時對產品管理進行功能升級。
補充說明：內容安全問題已經成為一種泛安全，並不因為是To B的工具，就能避免。只要涉及註冊，暱稱、頭像圖片、簽名內容等都會成為平臺的內容安全隱患，如果有內容模組，那麼面臨的內容安全隱患更大，更加不可控。內容安全問題，不可小覷。
4.吱呀、Soul、語玩、一說FM等多款音訊App遭下架
事件：6月28日，網信辦會同有關部門，針對網路音訊亂象啟動專項整治行動。根據群眾舉辦線索，經核查取證，首批依法依規對吱呀、Soul、語玩、一說FM等26款傳播歷史虛無主義、淫穢色情內容的違法違規音訊平臺分別採取了約談、下架、關停服務等階梯處罰。
補充說明：這次網路音訊行業的監管，除了查處一批色情淫穢、低俗資訊管理不當的平臺外，也對一些宣揚“二次元文化”、“亞文化”，以及宣揚歷史虛無主義，傳播驚悚恐怖、神仙鬼怪、殭屍、冥婚等怪力亂神的網路小說，散佈封建迷信思想的平臺進行了治理。
5.晉江文學城遭查處，起點中文網部分欄目停更
事件：2019年5月23日，根據北京市“掃黃打非”辦公室釋出的訊息，北京市“掃黃打非”辦公室等部門聯合行動，依法查處晉江文學城網站涉嫌違法行為。經查，晉江文學城《不知悔改的男人》《妖孽養成日記》等作品涉嫌傳播淫穢色情內容，對公眾特別是未成年人的身心健康有毒害。晉江文學城即日起，立即關停所涉問題突出的古代純愛頻道下的東方架空欄目，及衍生純愛頻道下的東方幻想欄目。
閱文集團旗下起點中文網對使用者釋出違法違規資訊未盡到管理義務，傳播導向錯誤、低俗色情小說等問題約談運營企業負責人，責令其立即自查自糾，全面深入整改。整改期間，起點中文網問題突出的“都市”頻道“異術超能”欄目、“女生網”頻道“N次元”欄目暫停更新7天，時間從5月21日15時至5月28日15時。
而在7月份，國家新聞出版署又約談了咪咕閱讀、天翼閱讀、紅袖添香網、起點中文網、追書神器、愛奇藝文學等12家企業，對近期發現的網路文學內容低俗問題提出批評，責令全面整改，要求相關單位立即下架存在問題的網路小說，停辦徵文活動，清理低俗宣傳推介內容。
補充說明：為了流量和收入，不少網文作者絲毫不顧及底線，除了低俗、色情外，內容上出現各種魔幻色彩，而平臺方卻沒有及時地介入，因此2019年監管部門對網路文學進行了較大規模的規範。知乎專欄作者“剎迦”在《網文整改並沒有那麼不堪》一文談及監管時說到:"有些人認為網文整改會給網文創作帶來災難，會導致網路小說消失，但我認為這根本就是危言聳聽，也很沒常識，恰恰相反，網文需要整改，再不整改反而可能會毀了網文的發展。"從筆者角度來看，一切都應該有序發展，無序會把自身拖入深淵。
6.登載不合規定地圖，《親愛的，熱愛的》被罰十萬
事件：2019年10月，上海市規劃和自然資源局官網顯示，電視劇出品方上海劇酷文化傳播有限公司未經測繪地理資訊主管部門稽核，在劇中擅自登載不符合國家規定地圖的行為，被責令改正並罰款人民幣十萬元整，處罰日期為2019年8月12日。
補充說明：《親愛的，熱愛的》應該不是故意登載不合規定的地圖，而是細節沒有把握住。這是一種新型別的內容安全事件，值得所有人提高警醒，因此對外的內容、產品，把好導向關、內容關、質量關、傳播關、人員關，建立稽核制度，加強相關技術和各種流程的安全管控是非常必要的。
7.抖音海外版TikTok2019年接連遭印度、孟加拉國、美國等國家下架或審查
事件：2019年，對於抖音海外版TikTok而言是個多事之秋。2月，孟加拉國以打擊網際網路色情為由禁掉了TikTok。4月，印度Madras高等法院以“鼓勵色情，對兒童有害”為理由，要求當地中央政府對TikTok應用下達禁令，限制媒體透過電視轉播使用該程式上的影片。
而在美國，TikTok也受到多次審查。為此，TikTok宣佈，將在美國引入第三方機構，讓他們為平臺的內容管理政策提供諮詢服務和建議。TikTok美國總經理瓦內薩·帕帕斯(Vanessa Pappas)表示，此舉旨在提高內容稽核政策及社群保護措施的透明度。
補充說明：實際上，2019年有不少中國公司出海，這些出海的企業在國外均面臨著各種內容安全問題。理解當地文化，與當地執法機構深入溝通，制定一國一策的內容稽核政策，或許將是在海外做強做大的關鍵點。
8.互動作業、奈米盒等20多個學習類APP被“掃黃打非”部門查處
事件：2019年1月7日，中央電視臺《新聞聯播》報導稱，全國“掃黃打非”部門查處案件1.2萬起，對於群眾舉報的移動學習APP中涉嫌侵權、盜版、色情、低俗內容等問題，展開了專項行動，查處了互動作業、奈米盒等20多個學習類APP。
5月14日國家網信辦公佈，2019年1月至4月，國家網信辦會同有關部門開展教育類移動應用程式專項整治，查實“作業狗”“口袋老師”等20餘款程式傳播淫穢色情等違法違規資訊，存在過度商業營銷和娛樂化等不良行為。國家網信辦已清理下架上述程式，關停違法違規情況嚴重的應用服務，約談部分程式運營方，督促刪除內容低俗及與學習無關的文章5.5萬餘篇，關停420餘個專欄以及320多個違規賬號。
補充說明：2019年應該算是教育類App專項整治的一年，從1月到12月，各種監管動作始終未放鬆。為此，有專家建議，應當考慮建立學習教育App黑名單，唯有如此，才能更好預防和治理隱藏在未成年人身邊的不良內容，減少他們被侵害的風險。
9.施華洛世奇、Versace（範思哲）等涉嫌損害國家主權與領土完整
事件：2019年，有不少網友發現，包括施華洛世奇、Versace（範思哲）、蔻馳、紀梵希在內的品牌，他們在官網或售賣的產品上，把不該表述為“國家”的中國城市、地區，表述為國家，涉嫌損害中國的國家主權與領土完整。
補充說明：任何個國家的公民都有主權意識和對應的風俗習慣，中國企業出海需要遵守當地的法律法規，尊重主權和風俗習慣，對應的海外企業入華也需要尊重，並把好各個環節，避免不當的現象發生。
10.哈囉順風車現大量涉黃資訊，變色情廣告平臺
事件：2019年6月份，有網友發現，哈囉順風車存在虛假色情訂單，在“附近乘客”一欄有兩位五星乘客，利用行程做廣告，“出發地”一欄被填入資訊“今晚老公不在家，你帶我去哪都行”，而“目的地”一欄則填入了微訊號。後來，哈囉出行官方表示普通使用者無法擅自更改地址定位資訊，本次事件系平臺遭到了惡意攻擊。
補充說明：2019年，自媒體人半佛仙人揭露了一種新的攻擊形式——內容攻擊。半佛仙人指出，所謂內容攻擊就是利用對方APP中可以展示內容的地方（例如評論區等），進行黃恐暴內容的飽和錄入，然後引發對方APP被大量投訴，然後被下架。內容攻擊競爭對手會用，打亂對方的產品迭代釋出計劃，給自己爭取有利的競爭視窗；黑灰產也會使用此手段，透過資訊釋出獲得相關的利益。由此來看，做好業務風控非常重要，哪怕沒有多少內容許可權，不法分子也可以透過業務安全上的缺口，給平臺方帶來內容安全風險。
2019年，內容安全領域也有一些法律法規釋出，易盾將應該引起重視的法律、政策法規和相關重要措施附錄如下：
《網路資訊內容生態治理規定》釋出
內容：來自微信公眾號網信辦訊息，《網路資訊內容生態治理規定》已經國家網際網路資訊辦公室室務會議審議透過，現予公佈，自2020年3月1日起施行。
據悉，《規定》明確了正能量資訊、違法資訊和不良資訊的具體範圍。鼓勵網路資訊內容生產者製作、複製、釋出含有正能量內容的資訊。明確網路資訊內容生產者應當遵守法律法規，遵循公序良俗，不得損害國家利益、公共利益和他人合法權益，不得製作、複製、釋出違法資訊；應當採取措施，防範和抵制製作、複製、釋出不良資訊。
國家網信辦等三部委釋出《網路音影片資訊服務管理規定》
內容：國家網際網路資訊辦公室、文化和旅遊部、國家廣播電視總局聯合印發了《網路音影片資訊服務管理規定》（以下簡稱“《規定》”），自2020年1月1日起施行。《規定》明確，網路音影片資訊服務提供者應當依法取得法律、行政法規規定的相關資質；應當建立健全使用者註冊、資訊釋出稽核、資訊保安管理等制度。任何組織和個人不得利用網路音影片資訊服務以及相關資訊科技從事法律法規禁止的活動，侵害他人合法權益。
網信辦等三部門聯合釋出新規，不得隨意釋出AI造假影片
內容：2019年12月份前後，國家網際網路資訊辦公室、文化和旅遊部、國家廣播電視總局聯合印發了《網路音影片資訊服務管理規定》，其主要內容是：利用基於深度學習、虛擬現實等新技術新應用製作、釋出、傳播非真實音影片資訊的，應當以顯著方式予以標識，不得利用其製作、釋出、傳播虛假新聞資訊;網路音影片資訊服務提供者應當部署應用違法違規音影片以及非真實音影片鑑別技術，應當建立健全闢謠機制。
《兒童個人資訊網路保護規定》釋出
內容：10月1日，由國家網際網路資訊辦公室釋出的《兒童個人資訊網路保護規定》正式實施。據專家介紹，這是我國第一部專門針對兒童網路保護的立法，明確了任何組織和個人不得製作、釋出、傳播侵害兒童個人資訊保安的資訊，確定了兒童個人資訊網路保護的具體原則，以及網信部門和其他有關部門的監管職責。該規定填補了網際網路時代兒童個人資訊保護的法律空白。
國內53家主要網路直播和影片平臺上線“青少年模式”
內容：2019年10月，國家網信辦繼續深入推進青少年網路防沉迷工作，統籌指導六間房、花椒直播等24家網路直播平臺，搜狐影片、百度影片等9家網路影片平臺統一上線“青少年模式”。截至目前，國內共有53家平臺上線“青少年模式”，網路防沉迷工作基本覆蓋國內主要網路直播和影片平臺。
點選免費體驗網易易盾安全解決方案。