2020 年，全球頂級電子遊戲開發工作室“頑皮狗”（Naughty Dog）旗下的《美國末日2》在中東遭到下架，原因是 ESRB（娛樂軟體分級委員會）對該遊戲的評級為包含裸露與性內容，與中東地區的法律相悖。
無獨有偶，2021 年初，被稱為 Twitter / Facebook 替代品的社交平臺 Parler，也為其一直宣揚的“言論自由”買了單，因成為極端觀點、陰謀論和暴力言論等過激內容的“溫床”，而慘遭蘋果、谷歌、亞馬遜的接連“封殺”。
（圖片來源於網路）
國內網路監管日趨嚴格，海外違規處罰案例也屢見不鮮：內容風控已成為海內外開發者和運營者無法逃脫的重要一環。
與國內相比，全球多語言內容風控有哪些特點和難點？不同國家的政策風向和內容監管要求如何？開發者出海時，面對千差萬別的語言體系，該如何守好業務的“安全關”?
就出海開發者關注的這些問題，我們採訪了雲上曲率產品 VP 裴延萌老師。
而關於更詳細的出海合規解讀，歡迎大家鎖定 11 月 20 日 WICC 廣州「出海分論壇」，裴延萌將帶來《全球多語言內容風控——為業務安全保駕護航》的主題分享。
（謝絕空降，掃碼報名參加 WICC · 廣州）
01 “宅家經濟”爆發，泛娛樂出海仍處快車道
成立於 2018 年的雲上曲率 LiveData ，有著“遊戲+社交+技術”的“混血”基因，由來自於知名遊戲公司、騰訊、中科院研究所的高精尖人才組成基礎核心團隊，具有豐富的全球化資料傳輸、人工智慧經驗。
從主營業務來說，雲上曲率專注於為全球泛娛樂領域客戶提供多語言內容風控和實時翻譯服務，目前支援全球 24 種語言，涵蓋全球 80%、國內出海客戶 95% 以上的區域市場，主要“戰場”集中在東亞、東南亞、中東、歐美等地區。
裴延萌分享說，選擇泛娛樂領域作為出發點，除了公司核心團隊的行業經驗使然，更出於對泛娛樂市場前景的樂觀判斷。
網際網路和移動網際網路的發展為“泛娛樂”創造了肥沃的土壤，在此基礎上，遊戲、動漫、語聊房、短視訊、直播、文學、音樂等多種文化藝術領域融合共生，五花八門的產品應用都可以被移動終端“收入囊中”，一個萬億市場的巨大產業就此誕生。
2020 年，基於在泛娛樂領域積累的全球經驗和後疫情時代對線上社交的看好，雲上曲率又將目光投向社交領域，開始與各出海社交平臺公司合作，在社交領域內容稽核方面發力。
疫情影響下，人們的線下社交受阻，線上社交頻次飛速增長。資料表明，疫情期間，我國移動裝置使用日均時長增長 30%，這一資料在日韓為 7%，歐美則有 5-10% 的增長。隨著防疫的常態化，“宅家經濟”在全球爆發，社交、泛娛樂等賽道依然處於快速增長通道。
在這一點上，全球趨勢同頻共振。
防疫常態化的大背景疊加Z世代成為消費主力的代際效應，讓語音社交在國內異軍突起，成為陌生人社交新風口，吸引大量企業入局。
融雲順勢而為，在 IM 即時通訊+RTC 實時音視訊+通訊周邊能力 X 構成的“全”通訊解決方案基礎上，推出語聊房SDK，覆蓋所有熱門語聊房業務場景，讓開發者可以快速切入這個萬億市場。
融雲用 SDK 的方式做場景化解決方案，完全突破了之前行業固有的服務方式。此前，行業的舊供給經歷了兩代更迭。第一代是利用後端開原始碼加前端開原始碼做二次開發，難度大，學習成本高；第二代對第一代進行了簡化，只需在前端做二次開發，但依然需要學習底層知識。
融雲的場景化 SDK，隱藏底層的邏輯和細節，把所有能力封裝成貼近業務的 SDK，讓開發者開箱即用，大大降低了開發者的學習和研發成本，提升了開發效率。
而這一套解決方案，以豐富的功能設定和強大的擴充套件性，同樣適用於出海開發者擴充海外業務。
02 出海 2.0 時代，本地化成破局良方
從網際網路到移動網際網路，“出海”這個熱詞背後的主力幾經嬗變，經歷了從工具類應用到社交、泛娛樂的百花齊放。
走出國門，中國產品往往在使用者體驗和運營上更具優勢，但是無一例外地需要面對海外市場的巨大差異性，這表現在網路、文化、政策等多個方面。
比如，社交、泛娛樂類應用出海首要面對的，就是各地參差不齊的網路狀況。比起逐一攻克，大量出海企業選擇融雲的底層通訊技術支撐。在融雲遍佈世界的通訊網（SD-CAN）和自研的最優鏈路排程演算法支援下，全球使用者都可以享受安全、可靠的通訊服務。
而云上曲率則在安全稽核方面擁有豐富的全球經驗，深諳各個國家和地區在內容監管方面的政策、文化差異。
為什麼在全球市場，內容稽核與風控是實時通訊場景下的重要能力？
第一當然是政策以及文化、宗教信仰的要求。目前，很多國家推出政策，要求在使用者層面開發並應用多種過濾軟體，以篩查色情和違法內容，並對未成年人線上權益進行保護。比如：
美國和歐盟：採取分級制度，美國的分級制度對於三歲、十三歲、十七歲等不同年齡段的未成年使用者和成年使用者有著完全不同的分級要求；而對於種族、宗教、性別或者性別認同/偏好等內容的限制是全部適用的。
中東：主要是宗教相關禁忌。
東南亞：印尼對線上的色情及反伊斯蘭內容尤其敏感；馬來西亞和新加坡則對色情、暴力等言論監管更加嚴格。
日韓：日本在暴力、賭博、性、毒品等方面有嚴格限制；韓國則嚴格規定不允許散佈淫穢色情資訊、網路賭博、對青少年有害的資訊等。
第二，各應用平臺也是安全合規的重要“衛士”。像 App Store，Google Play 都有相關的政策，不允許 App 中出現令人反感的內容，如誹謗、歧視、暴力、色情和煽動性的宗教內容；對於使用者生成的內容，也要求 App 實施穩健有效的 UGC 稽核機制，實時移除不當內容，否則就將面臨嚴厲的懲罰。
第三，使用者運營的要求，包括提升使用者粘性、使用者增長等。據研究表明，15% 的使用者表示在受到網路騷擾後會離開轉向其他社交平臺；另外有資料統計，使用者在健康社群中參與互動後其留存的可能性會增加 3 倍，會話量增加 4 倍，會話時長增加 60%。
事實上，相比幾年前，最初的海外流量紅利期已經過去，如今出海企業要面對的環境大不如從前，難度提高了很多。
1.0 時代，出海玩家們跑馬圈地，各憑本事驗證市場。經過幾年的群雄亂戰，充分競爭，2.0 時代開啟，市場格局初步形成，本地化能力成為新玩家突圍的關鍵。
以內容安全這個應用“生死線”為例，除了不同國家大的政策差異外，各地還有特定的表述敏感內容的俚語，以及令人“防不勝防”的語言變體。這些，都需要深入當地文化，對不同語言進行適配。
在這方面，“雲上曲率專業的語言工程師團隊及本地化團隊，能夠深入理解各國家的策略要求以及語言文化特點，對縮略語、俚語、網路用語、拼寫錯誤都可以做到精準識別和稽核。”裴延萌介紹道。
03 從遊戲到直播，不同場景的內容稽核機制差異
隨著行業發展，社交、泛娛樂場景不斷豐富，內容稽核機制也愈加複雜，需要結合不同的地區、場景進行定製化服務。
首先，單一場景在不同地區面臨不同要求。
以直播來舉例，各個國家和平臺對於直播的內容、時長，主播的審美偏好等都各不相同，比如在有宗教信仰的區域，涉及宗教的內容就會被禁止播放。同時，平臺對觀眾的觀看限制、打賞要求也有不同策略，比如對於中東地區的觀眾，就會相對放寬對於打賞的金額限制。
其次，同一地區的不同場景也面臨稽核差異。
比如，在直播場景中，Kill、Shoot 等字眼是不被允許的，要被識別及規避；而它們出現在遊戲類場景中，則很合理。
再比如，在遊戲場景中，企業一般會對 Admin、Operator 等詞彙的使用設定特別規則，因為擔心使用者藉此偽裝成軟體運營方，帶來欺詐等風險；而它們出現在直播中則不必特別注意。
整體來說，目前區域特色、使用者需求的差異化依然是固定存在的。內容安全不僅是業務發展的生死紅線，也是留存使用者、實現增長的運營重點。
11 月 20 日，WICC 2021 廣州站，聚焦社交、泛娛樂、出海，從市場到技術，從產品到運營，將為廣大開發者奉上一系列真正的實用寶典和避坑指南，趕緊報名吧！