虎撲分享:NLP演算法有效提升風險內容識別效果,降本提效|虎博思享會

虎博科技發表於2021-09-26
近日,以《新技術,助力“清朗”、“淨網”行動》為主題的虎博思享會,於虎博科技總部舉辦。活動匯聚了來自 上海市資訊保安測評認證中心、虎撲社群、寬頻山社群、樊登讀書的內容安全專家、負責人,共同圍繞技術與內容生態的平衡進行探索。

眾所周知,內容安全已被置於前所未有的重要位置,近期關於 “飯圈”、未成年保護、金融黑嘴、網路黑公關 等內容被特別關注並整治,網路內容生態治理已然成為現階段各大平臺的主要核心工作。
在本次虎博內容安全主題思享會中,來自虎撲社群的技術總監鄭中業,結合在虎撲多年從事內容生態工作的經驗,就虎撲在 內容生態治理上的發展歷程、技術投入、稽核流程,以及與虎博合作後取得的效果 等方面做了精彩的乾貨分享。

虎博思享會嘉賓精彩乾貨分享

虎撲分享:NLP演算法有效提升風險內容識別效果,降本提效|虎博思享會

演講分享·keymessage

01| 足球點陣式體系

虎撲的內容生態體系好比一個足球隊,巡查、人審、機審構成後衛、中場與前鋒,而模型作為技術基礎承載了重要作用

02| “好人卡”提效降本

對使用者進行精準畫像,“區別對待”高危和“好人卡”使用者,最佳化稽核效率同時,降低成本

03| 稽核“黑盒子”

巡查環節將稽核流程當做“黑盒子”,去評估稽核質量、流程漏洞和安全漏放等問題,從而完善稽核機制

04| “投毒”測試

對問題內容進行“投毒”模擬測試,提升稽核的感知度和敏感度

05| 小提升,大進步

與虎博合作至今,準確率與召回率每一個百分點的提升,都是內容生態治理的一大步

06| AI識別風險

透過模型訓練、特徵汲取,從語義理解、上下文感知上識別更多風險內容



來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70005350/viewspace-2793877/,如需轉載,請註明出處,否則將追究法律責任。

相關文章