知物由學 | 社交風控中遇到的問題，可以用這些手段進行“圍追堵截”

“知物由學”是網易易盾打造的一個品牌欄目，詞語出自漢·王充《論衡·實知》。人，能力有高下之分，學習才知道事物的道理，而後才有智慧，不去求問就不會知道。“知物由學”希望透過一篇篇技術乾貨、趨勢解讀、人物思考和沉澱給你帶來收穫的同時，也希望開啟你的眼界，成就不一樣的你。當然，如果你有不錯的認知或分享，也歡迎在“網易易盾”公眾號後臺投稿。

越來越多產品被注入社交屬性

使用者社交場景，並不僅僅存在於QQ、微信等傳統型社交類產品，影音、娛樂類等越來越多行業的APP也都被注入社交屬性。隨著使用者量，使用者活躍進一步提升，這些平臺的一系列業務安全問題也隨之而來。

不過，使用者社交場景的風控卻和我們熟知的電商、支付類場景不同，雖然不涉及直接資損，但使用者社交行為所產生的內容、熱度，卻對產品口碑、聲譽有著至關重要的影響。
典型的例子就是網易雲音樂的優質熱評，呈現在廣大使用者面前往往深入人心，對於產品口碑來說有莫大的幫助。

其實使用者社交場景可以這樣分

我認為，使用者社交可以分為以下兩大類：UGC 和非UGC。比較典型的UGC類使用者場景有社群評論、私信、留言、直播產品彈幕等；而非UGC類使用者社交場景有社群評論、文章、內容點贊、收藏、投票，使用者粉絲關注等。

上述業務場景由於使用者參與度高，所以也非常容易被黑灰產用來獲利。當有使用者需要漲粉、給平臺裡的使用者發廣告等需求時，就會藉助各類營銷助手工具進行批次群發、刷量、引流等操作。 

刷量、引流、群發的軟體往往也很便宜，價格基本從600到1000元不等。由此，我們可以想象到平臺使用者社交UGC 和非UGC 型別場景都逃不開被刷的命運。

刷量、引流、群發軟體都幹了什麼

​

1、使用者私信-騷擾問題

騷擾內容，從廣告，到撩騷應有盡有，絕大部分都是引流到站外，一旦使用者被引流到站外後極易發生使用者被欺詐，被騙的情況。當使用者遭受資金損失，來向平臺投訴時，由於欺詐環節不是發身在本平臺，平臺除了建議使用者報警，並針對相關私信內容進行敏感詞過濾，能做的實在有限，並且也是相對滯後的。

以及我們對此類內容聚合之後看到的：

2、評論-與主題無關

使用者評論由於對外展示，平臺會針對違規內容進行比較嚴格管控所以，涉黃、涉政、廣告等違發違規資訊比較難有可乘之機。

但一些無意義灌水，與所評論主題無關的評論內容過度氾濫，很難引起使用者共鳴，不利於優質內容的呈現，埋沒了真正走心，高質量的評論。想要透過優質評論等內容提升產品品質，就變的困難。 

3、關注-垃圾粉絲

垃圾小號批次關注使用者，目前已知的動機可能有兩個，一是部分使用者，為佔有更多平臺資源進行刷粉，提升影響力；另外，垃圾小號關注也是騷擾的前期準備，為後期傳送垃圾內容做鋪墊。前者，虛假粉絲必然會造成平臺資源分配過度不公平，以及資源浪費。後者，造成使用者騷擾，相關危害大家肯定清楚，這裡不做贅述。

​

我們看到——平臺各類使用者社交相關資料被刷，以及平臺刷量工具的流通。我們看不到——下游黑灰產資源豐富，比如各類改機/群控工具，各類一鍵新機等工具被用來篡改裝置資訊，以規避平臺操作限制。

群控工具用來進行低成本多裝置，批次操作。在比如各類接碼平臺，專業接收平臺註冊用的手機簡訊驗證碼，使用者無需使用自己本人手機號，透過平臺，就能完成手機號和簡訊驗證碼的校驗。打碼平臺，幫助使用者搞定各種文字，圖形驗證碼。再有各類秒撥、代理IP，每一次斷線重連就會獲取一個新的IP，此類IP池巨大，並且難以與正常使用者區分。

如何解決？

目前UGC類的使用者社交場景，比如評論，私信等。常規操作是以內容檢測為主，根據內容違規程度再進行不同梯度的賬號處罰，然後再提煉相關違規關鍵詞，進行風控策略查補。

但不論是刪除內容，還是處罰賬號都屬於事後風控。不良內容對於使用者、平臺都已經產生影響，很難挽回。並且，目前違規內容，不會一成不變，我們始終在違規內容出現之後才會進行策略升級，相對被動。再比如像上面提到評論場景，與主題無關，屬於明顯灌水的內容，難度就更大，並且很難與正常使用者發表內容進行區分，單純採用內容識別的方法，容易誤傷正常使用者。

然而像點贊、投票這類使用者社交場景，沒有UGC內容，所以想從內容上進行防控就更難發揮效果。 
我個人認為，可以採取以下幾個手段進行“圍追堵截”：

1、UGC類的使用者社交場景，可以在內容識別的基礎上，對使用者裝置、行為進行分析、判斷，不僅能對機器灌水，發騷擾私信等不良社交行為進行有效識別，也能規避內容相關關鍵詞策略更新的滯後性；

2、點贊、投票等場景更加依賴於對使用者裝置、行為的判斷。需要保證裝置識別的精準、高穩定性，這樣才能檢測出使用篡改裝置，各類工具操作的刷票、刷熱度的使用者，避免影響活動公平性，社會輿情等不良事件的發生。

3、對平臺使用者進行使用者畫像。使用者畫像可依據一段週期內，釋出違規內容的型別，違規次數，被處罰次數等維度建立。同時也可以建立正向使用者畫像，比如使用者一段週期內，高熱度內容情況，以及高質量粉絲數，釋出內容情況等方面來進行評分。以上資料，需要保持動態更新。 

4、在對使用者操作行為進行分析，提取特徵的同時，需要緊密貼合業務場景的特徵，不能簡單粗暴的針對使用者賬號、裝置、IP等維度的高頻操作一刀切，一旦誤報也是極其影響使用者體驗。

5、對惡意使用者名稱單維護也需要，進行定期，抽檢，清洗，保證惡意使用者名稱單有效。除非和高敏感內容有關使用者，其餘型別建議根據實際情況處理，不建議永久加黑。 

6、業務側需要建立持續、有效的資料監控，不論是單純從業務資料量，還是內容上，甚至外部輿情監控也十分必要，只有這樣才能與黑灰產進行持久對抗。

7、任何風控手段不可能完全清退刷量行為，以及不良內容，我們需要做的只是不斷提升識別手段，並對類使用者和資料保持嚴密監控，把相關影響控制在可控範圍（文/易盾實驗室）。

​

歡迎點選免費體驗網易易盾安全解決方案。​​​​