出海風景萬般好，謹防被困“文化”礁。關注【融雲全球網際網路通訊雲】瞭解更多
近期，位列東南亞最大線上購物網站之一的出海電商引起了軒然大波。該平臺在廣告中啟用了一位風評複雜的跨性別網紅和一名坐輪椅的女士作為廣告主角，被認為對映常年坐輪椅的泰國王室成員和歧視殘疾人。
儘管平臺已經下架廣告並鄭重道歉，但感到被傷害的人們卻並不買賬。廣告風波不僅驚動了泰國總理，導致平臺遭軍隊抵制，被政府部門起訴，甚至引來了中國駐泰國大使館官方回應。
正如泰國政府發言人針對此事件強調的，“內容創作者，應該小心他們在網上釋出的內容。”本應在稽核中過濾出的風險內容因文化差異而不查，未曾想引起如此巨浪。
而出海企業都會面臨這樣的“水土不服”，內容稽核成為不容忽視的環節。
作為全球 30 萬+ App 的通訊雲夥伴，融雲不僅以遍佈全球 233 個國家和地區的通訊網（SD-CAN）和自研的最優鏈路排程演算法為基礎，為使用者提供安全、可靠的通訊雲服務，還聯合專業合作伙伴打造出海內容稽核解決方案，為全球社交、泛娛樂應用提供多語言智慧內容風控服務。
海外掘金第一關克服文化上的“水土不服”
對於出海企業而言，對當地文化的敏感和知識儲備，是控制風險的必要條件。在涵蓋多個宗教文化的東南亞地區，更需要謹慎，尤其是在社交領域。隨著行業迅速發展，社交產品呈現出數量大、種類多、形態豐富、內容多元等特點，流量和利益激增的同時，也伴隨著一系列監管風險，內容安全的預防、控制和清理，各個環節都需要嚴格把關。
社交產品對內容稽核能力有著更高要求和更大挑戰，主要表現在：
1. 各國監管要求不同的複雜性
對於海外市場來說，法律、宗教、文化、語言等複雜因素影響下，出海 App 的合規性既要滿足當地法律，還要符合當地的人文習性，這給內容稽核帶來了新的挑戰。
拿歐美市場來說，網際網路內容採用嚴格的分級制度，對 3 歲、13 歲、17 歲等不同年齡段的未成年人有嚴格的保護策略，並且對種族言論是明令禁止的；在中東地區，十字架、豬等涉及宗教的元素極為敏感；在日本和泰國，要避免發表對天皇制和皇室不滿的言論，韓國對朝鮮政府的涉政言論在當地也是被嚴格審查的。
2. 保護品牌形象的必要性
線上上社交成為主流的今天，如何給使用者營造一個乾淨、健康的社交環境，是影響到品牌形象的頭等大事，進而影響到 App 的成功。
經調查顯示，使用者在健康的環境中參與互動後，留存率會增加 3 倍，會話時長增加 60%，而在受到網路騷擾後，15% 的使用者會轉向其他社交平臺。
國別、場景參差各異海外內容風險種類多樣，細節繁雜
文化的差異體現在方方面面，比如，東南亞國家的笑點與國內有很大不同，在氛圍上，他們的直播會顯得更加“喧鬧”。而在內容稽核方面，除了不同地域帶來的差異，即便是同一地區，不同的應用場景也面臨極大的稽核差異。
比如，在社交場景中，Kill、Shoot 等字眼是不被允許的，要被識別及規避；而它們出現在遊戲類場景中，則很合理。
再比如，在遊戲暱稱中，企業一般會對 Admin、Operator 等詞彙的使用設定特別規則，因為擔心使用者藉此偽裝成軟體運營方，帶來欺詐等風險；而它們出現在聊天中則不必特別注意。
這就要求內容稽核服務專業而全面，對於海外社交屬性的 App 來說，內容的風險種類主要包括涉黃、涉政、涉毒、涉暴、種族、歧視、宗教、未成年人、辱罵、拉人廣告等，以上都是各國網路監管部門重點關注的物件。
聚焦海外社交專業、全面的風控策略
融雲在 IM 即時通訊和 RTC 實時音視訊的雙核心能力之上，增加 X 元素 —— 通訊周邊能力的總和，全效賦能開發者。而“稽核”就是融雲重點佈局的 X 能力之一。
在這方面，融雲和業內領先的專業夥伴合作，幫助社交場景下的開發者，精準識別即時通訊、實時音視訊業務中的文字、圖片、音訊、視訊的黃、暴、恐等違規內容，滿足全場景需求；通過數字化的方式，提供稽核、打標、自定義配置等服務來滿足企業需求，打造業務、內容、使用者三重安全保障。
（內容稽核檢測類別，點選檢視大圖）
- 支援中文(簡體)、中文(繁體)、英文、日語、韓語、泰語、越南語、馬來語、印尼語、印地語（拉丁印地語）、 菲律賓語、阿拉伯語、土耳其語、俄語、德語、法語、義大利語、西班牙語、葡萄牙語、瑞典語、波蘭語、希臘語、挪威語、荷蘭語 24 種標準語言的文字及音訊稽核。
- 支援中東埃及、沙姆、北非、海灣、蘇丹 5 種本土方言以及印度地區孟加拉語、烏爾都語、馬拉地語、阿薩姆語的文字檢測。
1. 文字稽核
全球化部署文字稽核，稽核結果在 100ms 以內響應，可根據海外不同國家的稽核標準制定策略，支援標準語、方言、俚語、縮略語、社交隱晦語等表述，可結合上下文語義識別避免誤檢，且緊跟各國最新政策、時政新聞，不斷更新演算法模型。
（文字稽核示例）
2. 圖片稽核
使用先進的目標檢測及內容識別演算法，實時檢測圖片中的違規內容，支援卡通場景和真人場景識別，支援“畫中畫”、頭像小圖、模糊圖片等複雜場景，對光線遮擋、角度偏移等有較強檢測能力。
（圖片稽核示例）
3. 音訊稽核
專注於社交等場景，可精準識別並稽核 23 種語言，利用 ASR+文字模型以及聲紋模型綜合判斷涉黃、辱罵、暴恐、涉政、拉人廣告、仇恨言論、未成年人等內容，有效抵禦音訊內容違規風險，準確率達到 95% 以上。
（音訊稽核適用場景）
4. 視訊稽核
精準識別各類場景下的涉黃、涉政、暴恐、廣告等視訊內容，抵禦違規風險，保障視訊內容安全合規，支援智慧定義抽幀策略，在保證檢測準確率的情況下，提升稽核效率，節約成本，融合 EAST、CRNN、efficient-net、Resnet 等模型，避免單一模型的誤殺和漏檢，識別準確率高。
5. 多語言未成年保護策略
對侵害未成年的內容進行識別檢測是融雲內容稽核方案中海外稽核的一大特色。
在使用者方面，可對未成年的年齡、人臉以及音色進行識別；
在內容方面，阻斷未成年人色情低俗、血腥暴力、思想毒害、個人資訊等敏感內容，幫助平臺建立未成年人專屬的智慧內容推薦方案，通過多方面策略保護未成年人隱私。
（未成年保護策略）
實踐案例
國內某社交 App，使用了融雲完整的國內稽核服務，當業務步入全球發展階段，僅國內稽核不足以支撐複雜的場景需求，於是開通了海外文字+視訊+圖片稽核服務，一舉解決了三大痛點：
❓在使用者聊天過程中，結合語種、語境、變體等來綜合判斷並遮蔽敏感詞。
☑方案：多語言文字稽核，智慧遮蔽敏感詞。
❓對視訊進行涉黃、涉暴識別，特別是針對畫中畫色情，圖片邊緣、模糊光線下敏感部位暴露等難識別的場景。
☑方案：通過自動截幀-送審-圖片稽核服務，識別敏感內容；其中，圖片稽核服務通過針對性資料增強解決複雜場景難題。
❓在圖片識別中，除去國內的涉黃、涉暴、涉政等，有些國家還會對吐舌圖片，吸菸、腳部圖片有要求，並且識別複雜場景，如長圖、海報、畫中畫、漫畫等。
☑方案：圖片稽核服務啟用吐舌、腳部、親吻、圖文、涉黃、涉政等細粒度模型識別敏感圖片。
對於社交應用來說，內容安全問題在任何時候都屬於怎麼強調都不為過的生死線問題。融雲攜手業內專業平臺，助力出海開發者全球通訊順暢無憂，面向廣闊市場，把好“安全關卡”。