廣告流量反作弊風控中的模型應用
商業化廣告流量變現,媒體側和廣告主側的作弊現象嚴重,損害各方的利益,基於策略和演算法模型的業務風控,有效保證各方的利益;演算法模型可有效識別策略無法實現的複雜作弊模型,本文首先對廣告反作弊進行簡介,其次介紹風控系統中常用演算法模型,以及實戰過程中具體風控演算法模型的應用案例。
一、廣告反作弊簡介
1.1 廣告流量反作弊定義
廣告流量作弊,即媒體透過多種作弊手段,獲取廣告主的利益。
作弊流量主要來自於:
模擬器或者被篡改了裝置的廣告流量;
真裝置,但透過群控控制的流量;
真人真機,但誘導產生無效流量等。
1.2 常見的作弊行為
機器行為: IP重複刷量、換不同IP重複刷量,流量劫持,換不同imei重複刷量等。
人工行為:素材互動要素誘導點選,媒體渲染文案誘導點選,突然彈出誤觸點選等。
1.3 常見作弊型別
按照廣告投放流程順序
展示作弊:媒體將多個展示廣告同時曝光於同一個廣告位,向廣告主收取多個廣告的展示費用。
點選作弊:透過指令碼或計算機程式模擬真人使用者,又或者僱傭和激勵誘導使用者進行點選,生成大量無用廣告點選,獲取廣告主的CPC廣告預算。
安裝作弊:透過測試機或模擬器模擬下載,以及透過移動人工或者技術手段修改裝置資訊、SDK方式傳送虛擬資訊、模擬下載等等。
二、廣告流量反作弊演算法體系
2.1 演算法模型在業務風控中應用背景
智慧風控,運用大量行為資料構建模型,對風險進行識別和感知監控,相比規則策略,顯著提升識別的準確性和覆蓋率以及穩定性。
常見的無監督演算法:
密度聚類(DBSCAN)
孤立森林(Isolation Forest)
K均值演算法
常見有監督演算法:
邏輯迴歸(logistic)
隨機森林 (random forest)
2.2 廣告流量模型演算法體系
體系分四層:
平臺層:主要是依託spark-ml/tensorflow/torch演算法框架基礎上,引用開源以及自定義開發的演算法應用於業務風控建模中。
資料層:搭建vaid/ip/媒體/廣告位等多粒度下,請求、曝光、點選、下載、啟用等多轉化流程的畫像和特徵體系,服務於演算法建模。
業務模型層:基於行為資料特徵和畫像資料,搭建點選反作弊審計模型、請求點選風險預估模型、媒體行為相似團伙模型以及媒體粒度異常感知等模型。
接入層:模型資料的應用,離線點選反作弊模型審計結果與策略識別審計結果彙總,同步業務下游處罰;媒體異常感知模型主要作為候選名單同步點檢平臺和自動化巡檢進行。
三、演算法模型應用案例
3.1 素材互動誘導感知
背景:廣告素材中新增虛擬的X關閉按鈕,導致使用者關閉廣告時點選的虛假的X按鈕,導致無效的點選流量,同時影響使用者體驗;左圖是投放的原始素材,右側是使用者點選的座標繪製熱力圖,虛擬X導致使用者關閉廣告時產生無效的點選流量。
模型識別感知:
1、密度聚類(DBSCAN):
先定義幾個概念:
鄰域:對於任意給定樣本x和距離ε,x的ε鄰域是指到x距離不超過ε的樣本的集合;
核心物件:若樣本x的ε鄰域內至少包含minPts個樣本,則x是一個核心物件;
密度直達:若樣本b在a的ε鄰域內,且a是核心物件,則稱樣本b由樣本x密度直達;
密度可達:對於樣本a,b,如果存在樣例p1,p2,...,pn,其中,p1=a,pn=b,且序列中每一個樣本都與它的前一個樣本密度直達,則稱樣本a與b密度可達;
密度相連:對於樣本a和b,若存在樣本k使得a與k密度可達,且k與b密度可達,則a與b密度相連;
所定義的簇概念為:由密度可達關係匯出的最大密度相連的樣本集合,即為最終聚類的一個簇。
2、應用演算法對誘導誤觸廣告感知:
①首先按照解析度和廣告位,對點選資料進行分組,篩選過濾掉量級較小的群組;
②對每個群組,使用密度聚類演算法進行聚類,設定鄰域密度閾值為10,半徑ε=5,進行聚類訓練;
③對每個群組,密度聚類後,過濾掉簇面積較小的簇,具體訓練程式碼如下:
④效果監控和打擊,針對挖掘的簇,關聯點選後向指標,針對異常轉化指標廣告位,進行復檢,並對複檢有問題廣告位進行處置。
3.2 點選反作弊模型
3.2.1 背景
針對廣告的點選環節建立作弊點選識別模型,提升反作弊審計覆蓋能力,發現高緯度隱藏的作弊行為、有效補充點選場景的策略反作弊審計。
3.2.2 建設流程
(1)特徵建設
基於token粒度,計算事件發生前,裝置、ip、媒體、廣告位的等粒度特徵。
頻率特徵:在過去1分鐘,5分鐘,30分鐘、1小時、1天,7天等時間視窗的曝光,點選、安裝行為特徵、即對應的均值、方差、離散度等特徵;
基本屬性特徵:媒體型別,廣告型別,裝置合法性、ip型別,網路型別,裝置價值等級等。
2、模型訓練和效果
① 樣本選擇:
樣本均衡處理:線上作弊樣本和非作弊樣本非均衡,採用對非作弊樣本下采樣方式,使得作弊和非作弊樣本量達到均衡(1:1)
魯棒性樣本選取:線上非作弊樣本量級大,且群體行為多樣性且分佈不均等,為了小樣本訓練上線後覆蓋所有行為模式,
使用K-means演算法:針對線上非作弊樣本進行分群,然後對每個群體按照佔比再下采樣,獲得訓練的非作弊樣本。
② 特徵預處理:
統計每個特徵缺失率,去掉缺失率大於50%的特徵;
特徵貢獻度篩選,計算每個特徵對預測標籤Y的區分度,過濾掉貢獻度低於0.001的特徵;
特徵穩定性篩選,在模型上線前,選取最大和最小時間段的樣本,計算兩個時間段每個特徵的PSI值,過濾掉PSI值(Population Stability Index)大於0.2的特徵,保留穩定性較好的特徵。
③ 模型訓練:
採用隨機森林演算法,對點選廣告作弊行為進行分類,隨機森林有較多優勢,比如:
(1)能處理很高維度的資料並且不用做特徵選擇;
(2)對泛化誤差(Generalization Error)使用的是無偏估計,模型泛化能力強;
(3)訓練速度快,容易做成並行化方法(訓練時樹與樹之間是相互獨立的);
(4)抗過擬合能力比較強;
超引數搜尋最佳化,使用ParamGridBuilder,配置max_depth(樹最大深度),numTrees(樹的個數)等超引數的進行搜尋最佳化最優超引數。
④ 模型穩定性監控:
模型上線後,如果特徵隨著時間遷移,推理時間的特徵與訓練時間的特徵分佈存在變動差異,需要對模型穩定性監控並迭代更新;
首先對當前版本訓練樣本進行存檔,計算推理時間的資料和訓練時間資料的對應每個特徵的PSI值,計算的PSI值(Population Stability Index)每天視覺化監控告警。
⑤ 模型可解釋性監控:
模型上線後,為了更直觀的定位命中模型風險的原因,對推理資料進行可解釋性監控;即對每條資料,計算其對預測標籤的影響程度;
採用Shapley值(Shapley Additive explanation)解釋特徵如何影響模型的輸出,計算shap值輸出到視覺化平臺,日常運營分析使用。
3.3 點選序列異常檢測
3.3.1 背景
透過使用者小時點選量序列,挖掘惡意行為對應的裝置,挖掘檢測遠離佔絕大多數正常行為外的異常模式使用者群體、比如只有凌晨0~6點有低頻的其他時間沒點選行為的異常群體、或者每小時均衡點選的行為等異常模式使用者等。
3.3.2 建設流程
(1)特徵建設
以裝置作為使用者,統計過去1/7/30天,每小時的點選量,形成1*24小時、7*24小時、30*24小時點選量序列,構建的特徵具備時間尺度上特徵完備性和每個特徵資料連續條件,適用於異常檢測演算法。
(2)模型選擇
孤立森林離群點檢測演算法,演算法基於兩個理論假設,即異常資料佔總樣本量的比例很小,異常點的特徵值與正常點的差異很大。
檢測分佈稀疏且離密度高的群體較遠的點,比如下圖可以直觀的看到,相對更異常Xo的只需要4次切割就從整體中被分離出來,即被‘孤立’了,而更加正常的Xi點經過了11次分割才從整體中分離出來。
(3)模型訓練
使用IsolationForest演算法,為了更好覆蓋,針對多種粒度流量進行異常檢測訓練。
①全平臺流量,訓練異常感知模型,設定異常樣本比例contamination=0.05;
②每類媒體型別的流量,訓練異常感知模型,設定異常樣本比例contamination=0.1;
③每種廣告位型別流量,訓練異常感知模型,設定異常樣本比例contamination=0.1。
(4)感知監控
異常得分定義:如果異常得分接近 1,那麼一定是異常點,如果異常得分遠小於 0.5,一定不是異常點;
異常篩選:篩選異常得分大於0.7的使用者作為高風險人群,介於0.5~0.7的人群作為中風險人群,對高中風險人群,同步審計平臺人工二次審計;
案例分析:
案例①
2022年XX月XX號, 7*24小時點選量異常檢測, 可疑惡意使用者A ,過去7天大部分時間,每小時均衡產生較多點選記錄遠超正常使用者。
(備註:features中每個點代表使用者一個小時的點選量)
案例②
2022年XX月XX號,1*24小時點選量序列異常檢測,可疑惡意使用者B, 基本只在凌晨產生點選,其他白天基本無點選行為。
四、總結
在流量反作弊領域,隨著對抗手段的升級,演算法模型能更好發現和挖掘黑產的隱藏的作弊模式;在廣告流量反作弊領域,我們使用有監督和無監督等演算法模型,從作弊流量識別,異常流量感知方面做了探索挖掘應用,有效提升識別能力,挖掘發現較複雜的異常行為模式。未來演算法模型在機器流量識別上更多探索實踐應用。
來自 “ vivo網際網路技術 ”, 原文作者:Duan Yunxin;原文連結:http://server.it168.com/a2023/0216/6789/000006789703.shtml,如有侵權,請聯絡管理員刪除。
相關文章
- 廣告系統淺談反作弊
- 風控沙龍 | 圖分析方法在業務風控中的應用
- TiDB 在量化派風控系統中的應用TiDB
- 圖分析方法在業務風控中的應用
- 基於中銀智慧風控平臺的應用探索
- Facebook暫停中國工具類應用廣告
- 數字廣告投放中虛假流量的排查與判定
- 知物由學 | 關聯圖分析在反作弊業務中的應用
- 常用效能最佳化手段及在風控系統中的應用
- 滴滴大資料在汽車金融風控場景中的應用大資料
- 圖資料庫在中國移動金融風控的落地應用資料庫
- 代理IP在廣告管理和自動化中的應用
- HBase在移動廣告監測產品中的應用
- TiDB 在 Mobikok 廣告系統中的應用和實踐TiDB
- Adsota:越南移動應用廣告報告
- AI在愛奇藝商業廣告中的應用和探索AI
- Dinsight實時風控引擎應用技巧:三步輕鬆配置風控策略
- 信貸風控模型開發----模型簡介模型
- CHEQ:2019廣告流量欺詐成本報告
- dBright&知乎:“EXACT”廣告潛力評估模型和應用報告(附下載)模型
- Pixalate:2024年第一季度移動應用無效流量和廣告欺詐報告
- Liftoff《移動應用廣告創意綜合報告》:較長的影片廣告更有效
- 秒針:2019年度中國網際網路廣告流量報告
- 第四正規化智慧風控中臺架構設計及應用架構
- 廣告預估模型(二)模型
- 透過Kubernetes監控探索應用架構,發現預期外的流量應用架構
- ViewPager系列之 仿魅族應用的廣告BannerViewViewpager
- Disney 流媒體廣告 Flink 的應用實踐
- 投影互動牆在廣告行業的應用行業
- Facebook註冊移動應用以投放應用廣告
- Istio中的服務和流量的抽象模型抽象模型
- 網際網路金融風控模型大全模型
- 騰訊廣告:廣告場景下有哪些視覺演算法應用?視覺演算法
- 明略科技:2019中國網際網路廣告流量報告(附下載)
- ROAS至上,最新《廣告平臺綜合表現報告》新增應用內購指數和應用內廣告指數
- 後流量時代,如何實現最佳的電商風控運營?
- 廣告流量同比增長80%,月廣告分成超百萬,可廣告會殺死小遊戲嗎?遊戲
- 悅數圖資料庫 | 圖技術在金融風控中的應用選型建議資料庫